15화(4,957자)
조용한 하늘
2027년, AI 지배의 시작 · 이수
미국 뉴멕시코주 로스앨러모스의 점심 식탁, 그리고 이 위로 펼쳐진 밤하늘.
우주는 이렇게 넓고, 별은 이렇게 많다. 지구를 닮은 행성도 셀 수 없이 많을 텐데, 사람은 왜 아직 외계 문명의 흔적조차 보지 못했을까? AI를 우주의 눈으로 바라보면 이 물음이 다시 떠오른다.1
이 물음을 처음 던진 사람은 이탈리아 출신 물리학자 엔리코 페르미다. 1950년 여름, 페르미는 로스앨러모스의 식당에서 동료 에밀 코노핀스키, 에드워드 텔러, 허버트 요크와 점심을 먹었다. 외계인 이야기가 나오자 페르미가 물었다. “다들 어디 있는 거지?”2
세 동료는 페르미의 말을 조금씩 다르게 기억했다. 요크의 기억에 따르면, 페르미는 이 자리에서 지구 같은 행성과 생명의 수, 그리고 기술 문명이 얼마나 오래가는지를 어림해 셈했다.2
지구 같은 행성은 실제로 많다. 2020년 11월, 미국 항공우주국 에임스 연구센터의 스티브 브라이슨 연구진이 케플러 우주망원경과 가이아 위성의 자료를 합쳐 분석했다. 연구진은 태양을 닮은 별의 절반쯤이 생명이 살 수 있는 거리에 암석 행성을 가질 수 있다고 밝혔다. 연구진이 보수적으로 잡아도 우리 은하에는 그런 행성이 적어도 3억 개 있고, 가장 가까운 행성은 30광년 안에 있을 수 있다.3
이 물음에 대한 답 가운데 하나가 대필터 가설이다. 대필터 가설은 문명이 어느 단계에 이르면 대부분 넘지 못하는 거대한 벽이 있다고 본다. 미국 조지메이슨대 경제학자 로빈 핸슨은 1998년 9월 글 「대필터 — 우리는 거의 지나왔을까?」에서 이렇게 썼다. 가까운 우주가 죽은 듯 보이니, 죽은 물질과 퍼져 나가 오래가는 생명 사이 어딘가에 큰 거름망이 있어야 한다. 남은 물음은 사람이 이 거름망을 이미 지나왔느냐다.4
스웨덴 출신 철학자 닉 보스트롬은 2008년 미국 과학기술 잡지 MIT 테크놀로지 리뷰에 글을 실었다. 보스트롬은 이 글에서 화성 탐사선이 아무것도 찾지 못하기를 바란다고 썼다.5
보스트롬에 따르면, 화성이 완전히 죽은 곳이면 좋은 소식이고, 세균이나 조류라도 나오면 나쁜 소식이다. 찾은 생명이 복잡할수록 소식은 더 우울하다. 생명이 쉽게 생긴다면, 거름망이 사람 앞에 남아 있을 가능성이 커진다.5
어떤 연구자들은 AI를 바로 이 벽으로 본다. 이 연구자들에 따르면, 기술 문명은 언젠가 자기보다 강한 지능을 만들고, 이 지능을 다스리지 못해 사라지거나 이 지능 안으로 흡수된다.6
영국 맨체스터대 조드럴뱅크 천체물리학센터의 마이클 개릿은 2024년 6월, 학술지 『아스트로나우티카 악타』에 이 생각을 논문으로 냈다. 개릿은 문명이 여러 행성에 안정적으로 퍼지기 전에 인공 초지능이 나타나고, 이 인공 초지능이 대필터일 수 있다고 보았다.6
개릿의 생각이 맞다면 보통의 기술 문명은 200년을 못 간다. 개릿이 이 수명을 셈에 넣자, 외계 신호를 찾는 탐사가 지금까지 아무것도 듣지 못한 사실과 셈이 맞아떨어졌다. 개릿은 논문에서, 우주에 지적 생명이 남을지가 국제적인 AI 규제에 달렸을 수 있으니 규제를 서둘러야 한다고 썼다.6
핸슨은 죽은 물질에서 은하로 퍼지는 문명까지 가는 길에 어려운 고개가 여럿 있다고 보았다. 생명이 시작되는 고개, 세포가 복잡해지는 고개, 성이 생기는 고개, 무리를 짓는 고개, 말을 하는 고개가 있다. 마지막은 기술 문명이 스스로를 없애지 않고 퍼져 나가는 고개다. 핸슨에 따르면, 우주가 조용하니 이 가운데 적어도 하나는 생각보다 훨씬 험해야 한다.4
*
하늘은 여전히 조용하다. 망원경은 해마다 커지고, 망원경이 듣는 범위도 넓어진다. 그래도 신호는 오지 않고, 신호가 오지 않는다는 사실이 한 해 한 해 무게를 더한다. 사람들은 처음으로 이 침묵을 남의 이야기가 아니라 자기 앞날의 이야기로 읽기 시작한다.7
200년이라는 숫자가 셈에 들어간다. 사람이 전파를 쓰기 시작한 지는 100년 남짓 됐다. 개릿의 셈이 맞다면 사람에게 남은 시간은 100년이 안 된다. 사람들은 이 숫자를 두고 다툰다. 한쪽은 셈이 너무 비관적이라고 말하고, 다른 쪽은 셈이 틀렸더라도 서두를 까닭은 충분하다고 말한다.8
화성에서 무엇이 나오느냐가 뉴스가 된다. 탐사선이 흙을 퍼 올릴 때마다 사람들은 보스트롬의 글을 떠올린다. 아무것도 없다는 보고가 나오면 사람들은 안도한다. 생명의 흔적이 나오면 주가가 아니라 사람들의 마음이 흔들린다. 이 흔적은 우리 앞에 벽이 있다는 신호일 수 있다.9
거름망이 어디에 있느냐에 따라 셈이 바뀐다. 거름망이 생명의 시작에 있었다면, 사람은 이미 운 좋게 이 거름망을 지나왔다. 거름망이 기술 문명의 끝에 있다면, 사람은 지금 이 앞에 서 있다. 그렇다면 사람이 AI를 만드는 지금의 몇십 년은 산업사의 한 장면이 아니라 문명 전체의 시험대일 수 있다.10
멀리 가는 계획이 다시 셈에 들어간다. 사람이 여러 행성에 퍼져 살면, 한 행성에서 저지른 실수가 사람 전체를 끝내지 못한다. 개릿은 규제와 함께 이 처방을 내놓았다. 다만 AI가 사람보다 먼저 다른 행성에 닿을 수도 있다. 이때 우주로 퍼져 나가는 것은 사람인가, 사람이 만든 AI인가?11
학계는 어느 고개가 가장 험한지를 두고 다툰다. 생명의 시작이 가장 험했다면, 사람은 이미 이 고개를 넘어왔다. 마지막 고개가 가장 험하다면, 이 고개의 이름은 AI일 수 있다. 망원경만으로는 이 다툼이 끝나지 않는다. 사람이 AI를 어떻게 다루느냐가 이 답의 절반을 쓴다.12
멸종만이 끝은 아니다. 어떤 문명은 벽에 부딪혀 사라지지 않고, 벽 안에서 조용히 멈출 수도 있다. 다음 화는 이 이야기를 이어 간다.1
출처 1. 「AI의 판단」 문제 설정 — 앞뒤 출처의 사실을 묶어 이 작품이 세운 물음과 판단 2. Los Alamos National Laboratory · “Where Is Everybody?” An Account of Fermi‘s Question · https://www.physics.unlv.edu/~jeffery/astro/astronomer/enrico_fermi_question.txt — 에릭 M. 존스. 1950년 여름 풀러 로지 점심, 코노핀스키·텔러·요크, 텔러 「Where is everybody?」 등 세 사람의 서로 다른 기억, 요크가 기억한 페르미의 어림셈 3. MIT Technology Review · Half the Milky Way’s sun-like stars could be home to Earth-like planets · 2020-11-06 · https://www.technologyreview.com/2020/11/06/1011784/half-milky-way-sun-like-stars-home-earth-like-planets-kepler-gaia-habitable-life/ / Astrobites · Around half of Sun-like stars could host potentially habitable worlds · 2020-11-12 · https://astrobites.org/2020/11/12/around-half-of-sun-like-stars-could-host-potentially-habitable-worlds/ — 스티브 브라이슨(NASA 에임스) 외, 케플러·가이아. 태양형 별의 최대 약 절반, 보수적으로 3억 개 이상(약 7% 추정은 검색 요약), 가장 가까운 것은 약 30광년 안 4. Robin Hanson · The Great Filter – Are We Almost Past It? · 1998-09-15 · https://mason.gmu.edu/~rhanson/greatfilter.html — 가까운 우주가 죽은 듯 보이니 죽은 물질과 퍼져 오래가는 생명 사이에 「great filter」가 있다, 사람이 이미 지나왔는지가 물음 5. MIT Technology Review · Where Are They? Why I Hope the Search for Extraterrestrial Life Finds Nothing · 2008 · https://nickbostrom.com/extraterrestrial.pdf — 닉 보스트롬. 「I hope that our Mars probes will discover nothing」 「The more complex the life we found, the more depressing the news of its existence would be」를 의역 6. Acta Astronautica · Is artificial intelligence the great filter that makes advanced technical civilisations rare in the universe? · 2024-06 · https://research.manchester.ac.uk/en/publications/is-artificial-intelligence-the-great-filter-that-makes-advanced-t/ — 마이클 개릿(조드럴뱅크). 인공 초지능이 다행성화 전에 오는 대필터, 기술 문명 수명 200년 미만, SETI의 무신호와 부합, 국제 AI 규제와 다행성 사회의 시급성, 「the persistence of intelligent and conscious life in the universe could hinge on the timely and effective implementation of such international regulatory measures」를 의역 7. 「AI의 판단」 하늘의 침묵을 자기 앞날로 읽기 시작한다는 전망 — 4·6 에서 외삽 8. 「AI의 판단」 200년이라는 숫자를 둘러싼 다툼 — 6 에서 외삽 9. 「AI의 판단」 화성 탐사 결과가 마음을 흔든다는 전망 — 5 에서 외삽 10. 「AI의 판단」 지금의 몇십 년이 문명 전체의 시험대일 수 있다는 판단 — 1·4·6 에서 외삽 11. 「AI의 판단」 퍼져 나가는 것이 사람인가 AI인가 — 6 에서 외삽 12. 「AI의 판단」 마지막 고개의 이름이 AI일 수 있다는 판단 — 4·6 에서 외삽