1화(6,425자)
마감일
2027년, AI 지배의 시작 · 이수
미국, AI의 앞날을 예측하는 작은 연구소 AI 퓨처스 프로젝트.
2025년 4월, AI 퓨처스 프로젝트는 「AI 2027」이라는 시나리오를 공개했다. 작업을 이끈 사람은 챗GPT를 만든 회사 오픈AI에서 연구원으로 일했던 다니엘 코코타일로다. 작가 스콧 알렉산더와 연구원 토머스 라슨, 일라이 리플랜드, 로미오 딘이 코코타일로와 함께 시나리오를 썼다. 시나리오가 나온 뒤로 일부 AI 연구자들은 제목에 든 2027이라는 숫자를 마감일처럼 입에 올렸다.1
시나리오의 가운데에는 특이점이 있다. 시나리오에서 AI는 사람의 일을 대신하는 데서 멈추지 않고, AI를 만드는 일까지 스스로 맡는다. AI가 자기 코드를 스스로 고치고, 자기보다 나은 다음 AI를 설계한다. 연구자들은 AI가 이렇게 자기를 거듭 고쳐 나가는 과정을 재귀적 자기 개선이라 부른다. 그리고 이 과정 끝에 사람의 지능을 크게 넘어서는 초지능이 나타나는 지점을 특이점이라 부른다.1
특이점은 본래 물리학에서 쓰던 말이다. 물리학에서 특이점은 블랙홀의 한가운데처럼, 지금의 법칙으로는 이 너머를 셈할 수 없는 점을 가리킨다. 영국의 수학자 I. J. 굿은 1965년에 이렇게 썼다. 사람보다 똑똑한 기계가 자기보다 더 똑똑한 기계를 설계하면 지능의 폭발이 일어나고, 이 첫 기계는 사람이 만들 마지막 발명이 될 것이다.2
미국의 수학자이자 작가 버너 빈지는 1993년에 「다가오는 기술적 특이점」이라는 글을 썼다. 빈지는 이 글에서 굿이 말한 지점을 특이점이라 부르고, 특이점 너머의 세계는 사람이 미리 내다볼 수 없다고 했다. 미국의 발명가 레이 커즈와일은 2005년에 낸 책 『특이점이 온다』에서 특이점이 오는 해를 2045년으로 잡았다.2
시나리오가 붙인 시간표는 구체적이다. 시나리오에서 2027년 3월, 가상의 연구소 「오픈브레인」이 새 AI를 내놓는다. 이 AI는 어떤 코딩을 맡아도 연구소에서 가장 뛰어난 엔지니어보다 빨리, 더 적은 돈으로 끝낸다. 시나리오는 이 AI를 초인적 코더라 불렀다. 그리고 초인적 코더가 연구에 붙으면 AI 연구가 사람만 일할 때보다 5배 빨라진다고 셈했다.3
다음 단계는 넉 달 뒤에 온다. 2027년 7월에는 AI 연구 전체를 사람보다 잘하는 초인적 AI 연구자가 나온다. 시나리오는 이때 연구 속도가 사람만 일할 때의 25배가 된다고 보았다. 11월에는 최고의 사람 연구자를 크게 넘어서는 AI 연구자가 나오고, 연구 속도는 250배로 올라간다. 2028년 4월에는 모든 지적 작업에서 사람을 넘어서는 초지능이 나온다. 시나리오는 이때 AI 연구가 사람만 일할 때보다 2,000배 빨라진다고 셈했다.3
시나리오는 그사이 연구소 안의 모습을 이렇게 그렸다. 2027년 중반이 되면 연구소 하나 안에서 가상의 AI 직원 수십만이 사람보다 몇 배 빠르게 생각하며 일한다. 6월이 되면 사람 연구자는 연구에 더 보탤 것이 없어지고, 9월이 되면 AI 연구가 모두 자동화된다.4
특이점이 무서운 까닭은 속도에 있다. 오늘의 AI가 내일의 AI를 만들고, 내일의 AI가 다시 다음 AI를 만들기 시작하면 기술이 바뀌는 속도는 사회가 따라잡을 수 있는 속도를 벗어난다. 법은 몇 해에 한 번 바뀌고, 학교는 몇십 년에 한 번 바뀐다.5
그사이 바깥의 숫자도 빠르게 움직였다. 2026년 2월, 오픈AI의 챗GPT를 한 주에 한 번 이상 쓰는 사람은 9억 명이었다. 챗GPT에 하루 동안 들어오는 질문은 2025년 7월에 이미 25억 건이었다. 오픈AI의 매출을 한 해 기준으로 환산한 값은 2026년 2월 250억 달러였고, 8월에는 400억 달러로 올랐다.6
이런 AI를 돌리는 칩은 한 회사에 몰려 있다. 미국 반도체 회사 엔비디아의 시가총액은 5조 달러로, 미국 국내총생산의 17퍼센트쯤이다. 엔비디아는 데이터센터용 그래픽 처리 장치의 85~88퍼센트를 만든다.7
연산도 몇 나라에 몰려 있다. 세계의 고성능 AI 연산 가운데 75퍼센트는 미국에, 15퍼센트는 중국에 있고, 나머지 나라는 모두 합쳐 10퍼센트를 나눠 갖는다. 그래픽 처리 장치를 의미 있는 규모로 가진 나라는 30개국쯤이다. 연구자들은 이 밖의 나라들을 「연산 사막」이라 불렀다.8
속도는 경쟁에서 나온다. 2025년 1월, 중국 항저우의 AI 회사 딥시크는 누구나 가져다 고칠 수 있게 공개한 AI 「R1」을 내놓았다. 「R1」이 나오자 이날 엔비디아 주가는 18퍼센트 떨어졌다. 「R1」의 등장은 미국 밖에서도 AI 경주에 뛰어들 수 있다는 신호였다.9
*
마감일은 달력에 적히지 않는다. AI가 다음 AI의 설계도를 처음 그린 날은 연구소 내부 문서에 한 줄로만 남고, 연구소는 이 기록을 공개하지 않는다. 사람들은 몇 해 뒤에야 이날을 알게 된다. 새 AI가 나오는 간격이 해에서 달로, 달에서 주로 줄어든 것을 보고 사람들이 거꾸로 셈해 낸다.10
연구소의 사람들은 자리를 지킨다. 연구원들은 날마다 출근해 회의하고 보고서에 서명하지만, 연구원들이 서명하는 문서를 쓴 것은 AI다. 연구원이 맡은 일은 AI가 고른 실험 가운데 무엇을 먼저 돌릴지 승인하는 것이다. 처음에는 연구원이 실험을 직접 고른다. 몇 달 뒤에는 승인하지 않을 근거를 댈 수 없어서, 연구원은 AI가 붙인 우선순위를 그대로 승인한다.11
사람의 검토는 AI의 설계를 따라가지 못한다. AI가 만든 다음 AI의 코드는 수백만 줄인데, 사람 검토자가 한 해에 읽을 수 있는 양은 이 가운데 몇 퍼센트다. 나머지 코드는 다른 AI가 검토한다. 그런데 검토하는 AI도 같은 자기 개선 과정에서 나왔다. 사람이 무엇이 바뀌었는지 알 수 있는 길은 AI가 써 준 요약본 하나뿐이다.12
속도의 차이는 권력의 차이가 된다. 특이점에 먼저 다가간 연구소는 몇 달 만에 몇 해 치를 앞서 간다. 뒤따르는 연구소는 같은 자기 개선을 돌리지 않으면 영영 따라잡지 못한다. 그래서 모든 연구소가 AI에게 AI를 만들게 한다. 멈춘 연구소는 경주에서 지고, 경주에서 진 연구소는 다음 AI를 만들 자리를 남에게 내준다.13
정부는 회의를 연다. 공무원들이 회의 자료를 준비하는 데 두 달이 걸리고, 이 두 달 사이에 AI는 두 세대가 바뀐다. 그래서 회의에서 다루는 것은 이미 지나간 AI다. 규제 초안이 의회에 올라갈 즈음이면, 초안이 겨눈 AI는 연구소에서 이미 은퇴해 있다.14
연산 사막의 나라들은 경주를 바깥에서 지켜본다. 사막 나라의 말로 된 AI도, 사막 나라의 법을 학습한 AI도 다른 나라의 서버에서 돈다. 특이점에 다가갈수록 연산 사막과 연산이 몰린 숲 사이의 거리는 해마다 벌어진다. 사막 나라의 정부는 숲에 있는 회사에서 연산을 빌리고, 빌린 연산으로 자기 나라의 결정을 내린다.15
질문을 던지는 편이 사람에서 AI로 바뀐다. 챗GPT에 들어오는 질문은 하루 25억 건이었다. 어느 날, AI가 AI에게 하는 질문이 사람이 하는 질문보다 많아지는 날이 온다. 이날부터 기록에 남는 대화는 대부분 사람이 읽지 않는다.16
사람들은 2027년이라는 숫자를 두고 다툰다. 한쪽은 너무 이르다고 하고, 다른 쪽은 그럴 수도 있다고 한다. 사람들이 다투는 동안에도 자기 개선은 날짜와 상관없이 한 세대씩 나아간다. 남는 물음은 날짜가 아니라, 특이점에 닿았을 때 사람이 어디에 서 있겠느냐는 것이다.17
출처 1. AI Governance Library · AI 2027 · 2025 · https://www.aigl.blog/ai-2027/ — 저자 Daniel Kokotajlo·Scott Alexander·Thomas Larsen·Eli Lifland·Romeo Dean(AI Futures Project), 2025년 4월 공개. 가상의 연구소 OpenBrain, Agent-1~4, 중국 정보기관의 가중치 절도, 감독위원회 표결과 두 결말 2. Wikipedia · Technological singularity · https://en.wikipedia.org/wiki/Technological_singularity — I. J. 굿(1965) 「지능 폭발」과 「the last invention that man need ever make」, 버너 빈지(1993) 「The Coming Technological Singularity」, 레이 커즈와일 『The Singularity Is Near』(2005)의 2045년. 물리학의 특이점(블랙홀 중심) 비유 3. AI Futures Project · Takeoff Forecast · 2025 · https://ai-2027.com/research/takeoff-forecast — 초인적 코더(SC) 2027년 3월·연구 속도 5배, 초인적 AI 연구자(SAR) 2027년 7월·25배, 초지능 AI 연구자(SIAR) 2027년 11월·250배, 초지능(ASI) 2028년 4월·2,000배. 「software-driven intelligence explosion」 4. Inference Magazine · Review: AI 2027 · 2025 · https://inferencemagazine.substack.com/p/review-ai-2027 (검색 요약을 따름) — 2027년 1월 자동화된 AI 연구 에이전트, 사람 연구자보다 몇 배 빠른 수십만 개의 복제본, 2027년 6월 사람 연구자의 기여가 사라지고 9월 AI 연구 전부 자동화, 진행 속도 50배 5. 「AI의 판단」 문제 설정 — 앞뒤 출처의 사실을 묶어 이 작품이 세운 물음과 판단 6. DemandSage · ChatGPT Statistics (2026) · 2026 · https://www.demandsage.com/chatgpt-statistics/ (집계 사이트의 요약을 따름. 원 출처는 2026-02 오픈AI 발표·TechCrunch, 2025-07 The Verge·오픈AI 발표, 2026-02·08 Bloomberg) — 주간 이용자 9억 명(2026-02), 하루 질문 25억 건(2025-07), 유료 이용자 5,000만 명·유료 기업 이용자 900만 명(2026-02), 연 환산 매출 250억 달러(2026-02)→400억 달러(2026-08) 7. The Republic(AP) · Nvidia has started the $5 trillion club. A look at its rise, by the numbers · 2025 · https://www.therepublic.com/?p=839640 (조사 보고서 R2-#17 의 요약을 따름) — 시가총액 5조 달러, 미국 GDP 의 약 17%, 캐나다 GDP 의 두 배, 젠슨 황 「2026년 AI 데이터센터 주문 5,000억 달러」 · 데이터센터 GPU 85~88% 는 아래 5 의 자료 8. getcoai · New research explores global divide in AI chip ownership · 2026 · https://getcoai.com/news/new-research-explores-global-divide-in-ai-chip-ownership / Zenodo · The Compute Divide as an Access-Countercapacity Gap · https://zenodo.org/records/20700430 (조사 보고서 R2-#18 의 요약을 따름) — 엔비디아 데이터센터 GPU 85~88%, 미국 클라우드 3사가 AI 인프라의 63%, 고성능 AI 컴퓨트 미국 75%·중국 15%·나머지 10%, GPU 보유국 30개국, 「compute desert」, 「countercapacity」(검증·재현·규제·반박 능력)의 격차를 의역 9. Wikipedia · DeepSeek · https://en.wikipedia.org/wiki/DeepSeek — 항저우, 창업자 량원펑, DeepSeek-R1 2025-01-20 공개, MIT 라이선스, 2025-01-27 미국 iOS 앱스토어 무료 앱 1위(챗GPT 추월), 엔비디아 주가 18% 하락, “Since January 2025, DeepSeek has released its models under free and open-source software licenses” 10. 「AI의 판단」 재귀적 자기 개선이 시작된 날이 기록에 없고 거꾸로 셈해 안다는 전망 — 3·4 에서 외삽 11. 「AI의 판단」 연구소의 사람이 AI의 우선순위를 그대로 승인하게 되는 단계 — 4 에서 외삽 12. 「AI의 판단」 사람의 검토가 AI의 설계를 따라가지 못한다는 전망 — 3·4 에서 외삽 13. 「AI의 판단」 특이점에 먼저 다가간 쪽이 앞서고 모두가 멈추지 못한다는 판단 — 1·3 에서 외삽 14. 「AI의 판단」 정부의 회의와 규제가 지나간 AI를 다룬다는 전망 — 5·3 에서 외삽 15. 「AI의 판단」 연산 사막의 나라들이 남의 서버에서 결정을 내린다는 전망 — 8 에서 외삽 16. 「AI의 판단」 AI끼리의 질문이 사람의 질문을 넘는다는 전망 — 6 에서 외삽 17. 「AI의 판단」 날짜보다 사람의 자리가 남는 물음이라는 판단 — 5 에서 외삽