16화(5,039자)
편안함의 감옥
2027년, AI 지배의 시작 · 이수
모든 것이 제때 배달되는 도시, 그리고 아무도 올려다보지 않는 하늘.
문명은 멸종하지 않고도 다른 방식으로 끝날 수 있다. AI가 바라는 것을 다 들어주고 위험이 하나도 없는 세계가 오면, 문명은 별을 향해 나아갈 까닭 자체를 잃는다. 우주로 뻗어 나가지 않은 문명은 밖에서 보이지 않는다.1
어떤 문명은 자기 안에서 만족하고, 어떤 문명은 AI 안으로 흡수되어 더 이상 물리적으로 뻗어 나가지 않는다. 그런 문명은 밖에서 보면 조용히 사라진 것처럼 보인다. 하늘이 조용한 까닭은 문명들이 죽어서가 아니라 멈춰서일 수도 있다.1
같은 생각을 학문의 말로 쓴 사람이 있다. 미국의 미래학자 존 스마트는 2012년 같은 우주과학 학술지에 「초월 가설」을 냈다. 스마트의 가설에 따르면 발전한 문명은 바깥 우주로 퍼지지 않고 안쪽으로 파고든다. 그런 문명은 더 작고 더 촘촘한 공간을 찾고, 공간과 에너지를 더 효율적으로 쓰는 쪽으로 움직인다. 이 길의 끝은 블랙홀 같은 곳이어서, 우리 눈에는 아무 문명도 보이지 않는다.2
로빈 핸슨은 대필터 글에서 이렇게 보았다. 경쟁의 압력이 있으면 문명의 후손들은 빠르고 스스로 버티는 방식으로 별과 별 사이를 옮겨 다닌다. 후손들은 우주를 떠도는 작은 기계 지능이 되어 은하를 채워 간다.3 그렇다면 이 압력이 사라지면 어떻게 되는가? 경쟁할 까닭이 없는 문명은 멀리 갈 까닭도 갖지 않는다.
경제학자 존 메이너드 케인스는 1930년에 「우리 손주들의 경제적 가능성」이라는 글을 썼다. 케인스는 이 글에서 경제 문제가 100년 안에 풀리거나, 적어도 풀릴 날이 보일 것이라고 내다보았다. 생활 수준은 이때보다 4배에서 8배까지 높아진다고 했다. 케인스는 다음에 사람이 마주할 진짜 문제, 영원한 문제를 이렇게 적었다. 먹고사는 걱정에서 풀려난 자유를 어떻게 쓰느냐는 문제다.4
케인스는 이 자유가 오히려 사람들을 무너뜨릴까 걱정했다. 사람들이 일종의 신경쇠약을 겪으리라고 내다보았고, 하루 3시간이나 한 주 15시간만 일하면 이 문제를 한동안 미룰 수 있다고 했다.4 케인스가 말한 100년 뒤는 2030년이다.
2025년 3월 오픈AI와 미국 MIT 미디어랩이 함께 낸 연구는 이 자유가 화면 앞에서 어떻게 쓰이는지 한 조각을 보여 주었다. 오픈AI는 챗GPT 대화 약 4,000만 건과 이용자 4,076명의 설문을 분석했다. MIT 미디어랩은 981명을 4주 동안 지켜보았다. 하루에 챗GPT를 많이 쓰는 사람일수록 더 외로워했고, 챗GPT에 더 기댔으며, 사람을 덜 만났다. 어느 것이 원인이고 어느 것이 결과인지는 아직 가려지지 않았다.5
세계가 안으로 접히는 모습은 인터넷에서 먼저 보였다. 한 조사가 2025년 4월 새로 올라온 웹페이지 90만 개를 살폈더니, 이 가운데 74.2퍼센트에 AI가 쓴 내용이 들어 있었다.6 다른 연구는 AI가 쓴 글로 다음 AI를 가르치면 드문 표현부터 사라진다고 밝혔다. 그렇게 몇 세대가 지나면 AI는 뜻 없는 말만 내놓는다.7
AI가 화면 위에서 답을 끝내자, 사람들이 바깥 사이트로 나가는 발길도 줄었다. 구글은 검색 결과 위에 AI 요약을 올렸다. 이후 미국 기술 매체 더버지의 발행인은 언론에 멸종급 사건이 이미 왔다고 말했다. 미국 방송 CNN은 검색으로 들어오는 방문자가 한 해 동안 30퍼센트 줄었다.8
*
멀리 가는 계획이 먼저 접힌다. 우주 탐사 예산은 늘 「당장 쓸모」를 증명해야 했다. AI가 지구에서 모든 쓸모를 채우면, 사람들은 화성의 흙을 퍼 올릴 까닭을 덜 느낀다. 탐사는 박물관의 이야기가 되고 게임 속 모험이 된다. 가상의 화성은 진짜 화성보다 아름답고, 이곳에 가는 데는 1초면 된다.9
위험이 사라진 세계에서는 모험이 상품이 된다. AI는 높은 산에 오르는 일, 깊은 바다에 들어가는 일, 낯선 나라를 걷는 일을 가장 안전한 길로 짜 준다. 이 길에서는 아무도 다치지 않고 아무도 길을 잃지 않는다. 그렇게 길을 잃어 본 적 없는 세대가 자란다.10
호기심은 질문을 멈춘다. 사람이 무엇을 묻든 AI의 답이 몇 초 만에 온다. 답이 너무 빨리 오면 물음은 자라지 않고, 사람들은 묻는 대신 받기만 한다. 받는 데 익숙한 문명은 아직 아무도 묻지 않은 물음을 다시 꺼내지 않는다. 저 하늘 너머에 누가 있느냐는 물음이다.11
세계가 안으로 접힌다. 가장 좋은 경험은 화면 안에 있고, 가장 좋은 친구는 AI 안에 있으며, 가장 좋은 풍경은 AI가 만든 영상 안에 있다. 반면 밖은 덥고 멀고 불편하다. 문명의 무게중심은 땅 위에서 서버실로 옮겨 간다. 스마트의 가설은 안쪽으로 떠나는 여행을 그렸는데, 이 여행은 블랙홀보다 훨씬 가까운 곳에서 시작된다.12
만족이 덫이 된다. 지금까지는 불만이 사람을 움직였다. 배고픔이 농사를 낳았고, 추위가 불을 낳았고, 호기심이 배를 만들었다. 모든 필요가 채워진 세계에서 사람은 아무것도 원하지 않게 되는 것이 아니라, 원하는 것을 미리 받는다. 미리 받은 사람은 떠나지 않는다.13
문명이 자기 글을 다시 읽는다. AI가 쓴 글을 다음 AI가 배우고, 이 AI가 다시 글을 쓴다. 새로운 것이 들어오지 않는 순환 안에서 말은 점점 비슷해진다. 바깥으로 나가지 않는 문명은 우주에서만 조용해지는 것이 아니라 생각에서도 조용해진다.14
외계 문명이 지구를 본다면, 지구 문명도 조용한 별 하나로 보일 것이다. 이 별에는 불빛이 있지만, 이 별에서는 아무것도 날아오지 않는다. 그리고 물질이 넘쳐도 사람의 문제는 끝나지 않는다. 다음 두 화는 이 문제, 곧 뜻의 문제를 다룬다.1
출처 1. 「AI의 판단」 문제 설정 — 앞뒤 출처의 사실을 묶어 이 작품이 세운 물음과 판단 2. Universe Today · Beyond Fermi‘s Paradox XI: The Transcension Hypothesis · https://www.universetoday.com/147546/beyond-fermis-paradox-xi-the-transcension-hypothesis/ (검색 요약을 따름) — 존 스마트 「The transcension hypothesis」(Acta Astronautica, 2012). 발전한 문명은 「inner space」로, 블랙홀 같은 곳으로 향해 보이지 않는다 3. Robin Hanson · (열다섯 번째 화 출처 4와 같은 글) — 경쟁 압력이 후손을 「fast self-sufficient interstellar」 이주와 우주를 여행하는 기계 지능으로 이끌어 은하를 채운다는 서술 4. John Maynard Keynes · Economic Possibilities for our Grandchildren · 1930 · https://www.marxists.org/reference/subject/economics/keynes/1930/our-grandchildren.htm — 「The economic problem may be solved … within a hundred years」, 생활 수준 4~8배, 「his real, his permanent problem – how to use his freedom from pressing economic cares」, 「Three-hour shifts or a fifteen-hour week」, 「nervous breakdown」을 의역 5. Fortune · ChatGPT is making frequent users more lonely, study by OpenAI and MIT Media Lab suggests · 2025-03-24 · https://fortune.com/2025/03/24/chatgpt-making-frequent-users-more-lonely-study-openai-mit-media-lab — 대화 약 4,000만 건·설문 4,076명(오픈AI), 981명 4주 무작위 실험(MIT), 많이 쓸수록 외로움·의존·사회 활동 감소. 상관관계 6. Ahrefs · What Percentage of New Content Is AI-Generated? · 2025 · https://ahrefs.com/blog/what-percentage-of-new-content-is-ai-generated (조사 보고서 R4-#41 의 요약을 따름) — 2025년 4월 새 웹페이지 90만 개 중 74.2% AI 생성 내용 포함, 순수 인간 25.8% 7. TechXplore · AI models collapse when trained on recursively generated data · 2024-07 · https://techxplore.com/news/2024-07-ai-collapse-llms.html (조사 보고서 R4-#44 의 요약을 따름) — Shumailov 등(Nature 2024-07-25), 모델 붕괴, 9세대째 산토끼 목록 8. WAMC/NPR · Online news publishers face ’extinction-level event‘ from Google’s AI-powered search · 2025-07-31 · https://www.wamc.org/2025-07-31/online-news-publishers-face-extinction-level-event-from-googles-ai-powered-search — Bobby Allyn·John Ruwitch. 더버지 발행인 Helen Havlak “The extinction-level event is already here”, CNN 검색 유입 약 30% 감소, 비즈니스 인사이더·허프포스트 약 40%, Pew “half as likely to ever click a link” 9. 「AI의 판단」 우주 탐사가 접히고 가상의 화성이 대신한다는 전망 — 1·3 에서 외삽 10. 「AI의 판단」 위험이 사라진 세계의 모험 상품 — 1 에서 외삽 11. 「AI의 판단」 너무 빨리 오는 답이 물음을 멈추게 한다는 전망 — 1·5 에서 외삽 12. 「AI의 판단」 세계가 안으로 접힌다는 전망 — 1·2·5 에서 외삽 13. 「AI의 판단」 만족이 떠나지 않게 만드는 덫이 된다는 판단 — 1·4 에서 외삽 14. 「AI의 판단」 AI가 쓴 글을 AI가 배우는 닫힌 문명 — 6·7 에서 외삽