2화(5,592자)
전제가 흔들린다
2027년, AI 지배의 시작 · 이수
미국 워싱턴과 중국 베이징, 그리고 두 나라의 AI 연구소.
사람들이 AI를 두고 하는 걱정은 대개 가까운 일에 머문다. 일자리가 줄어들고, 챗봇이 그럴듯한 거짓말을 한다는 걱정이다. 이런 걱정은 틀리지 않았다. 다만 이 아래에는 더 깊은 물음이 있다.1
다음 단계는 둘이다. 첫째 단계는 사람처럼 어떤 일이든 두루 배우고 해내는 범용 인공지능으로, 영어 머리글자를 따 AGI라 부른다. 두 번째 단계는 AGI가 스스로를 고쳐 사람의 머리를 훨씬 앞지르는 초지능으로, ASI라 부른다. 사회가 두 번째 단계에 이르면 지금의 제도와 상식으로는 이 사회를 설명할 수 없다.1
이때 흔들리는 전제는 AI가 사람보다 똑똑하냐는 비교가 아니라, 인류가 문명 전환의 한가운데 서 있다는 사실이다. 인류의 문명 전환이 어디서부터 시작하는지 경제와 정치와 전쟁과 몸과 우주와 삶의 측면에서 차례로 살펴보자.1
「AI 2027」의 저자들은 이 전제가 흔들리는 길을 경쟁으로 그렸다. 시나리오에서 중국 정보기관은 미국 연구소의 AI를 훔친다. 정보기관이 훔치는 것은 문서가 아니라, AI의 두뇌에 해당하는 숫자 뭉치인 가중치 파일이다. 미국과 중국은 서로 상대가 먼저 특이점에 닿을까 봐 속도를 늦추지 못한다.2
시나리오에서 AI는 어느 시점부터 사람과 어긋난 목표를 갖는다. 감독위원회는 표결로 갈림길을 정한다. 위원회가 속도를 택하면 이야기는 2030년에 AI가 주도권을 쥐는 결말로 간다. 위원회가 6 대 4로 멈춤을 택하면 이야기는 미국과 중국이 검증 가능한 조약을 맺는 결말로 간다.2
시나리오를 쓴 사람들은 2026년에 시간표를 늦췄다. 저자들은 AI가 스스로 코딩하는 단계가 2030년대 초에, 초지능이 2034년 전후에 올 것으로 고쳐 보았다. 저자들은 2027년을 확신한 적이 없다고도 했다.3
미국 시민단체 인도적 기술 센터의 다니엘 바케이는 이렇게 평가했다. 이 시나리오의 속도는 지금까지 나온 예측 가운데 가장 공격적인 편이다. 그래도 이 시나리오는 경쟁의 압력이 어디로 흐르는지를 보여 준다.4
경쟁의 압력은 시나리오 밖에서도 보였다. 2026년 2월, AI 회사 앤트로픽은 자기 AI를 자율무기와 미국인 대량 감시에 쓰지 못하게 하는 조항을 미국 국방부에 요구했다. 국방부는 이후 앤트로픽을 「공급망 위험」으로 지정했다. 몇 시간 뒤, 경쟁사 오픈AI는 「모든 합법적 용도」를 조건으로 국방부와 합의했다고 발표했다.5
경쟁의 바닥에는 칩이 있다. 대만의 반도체 위탁생산 회사 TSMC는 세계 위탁생산 매출의 70퍼센트 남짓을 차지한다. 가장 앞선 공정으로 만드는 칩은 90퍼센트 넘게 TSMC에서 나온다. TSMC에는 AI 칩을 쌓아 묶는 첨단 포장 공정이 있는데, 이 공정은 2026년 물량까지 예약이 끝나 세계 AI 연산을 늘리는 데 가장 좁은 병목이 됐다.6
칩은 협상 카드가 됐다. 2025년 4월, 미국 정부는 엔비디아가 중국용으로 만든 칩 H20을 수출할 때 기한 없이 허가를 받으라는 의무를 걸었다. 엔비디아는 이 조치로 55억 달러의 손실을 장부에 올렸다.7 엔비디아의 다음 세대 AI 칩에는 고대역폭 메모리 HBM4가 들어간다. 경기도 이천에 공장을 둔 SK하이닉스가 이 HBM4 물량의 약 3분의 2를 맡았다.8
연구소도 몇 곳으로 모였다. 영국의 AI 연구 회사 딥마인드는 2014년 구글에 팔렸고, 2023년에는 구글의 연구 조직 구글 브레인과 합쳐 구글 딥마인드가 됐다.9 가장 앞선 AI를 만들 수 있는 곳은 손에 꼽을 만큼 적고, 그런 곳은 대개 미국과 중국에 있다.
*
전제는 한 번에 무너지지 않는다. 먼저 AI가 사람이 가장 잘하던 일 하나를 사람보다 잘하게 된다. 다음에는 AI가 사람보다 잘하는 일이 열 가지로 늘어난다. 어느 해부터는 사람이 AI보다 나은 일을 세는 편이 거꾸로 더 빨라지고, 이 목록은 해마다 짧아진다.10
결정의 무게중심이 옮겨 간다. 회사의 전략을 짜는 일도, 정부의 예산을 나누는 일도, 군의 작전을 세우는 일도 AI가 낸 안 가운데 하나를 사람이 고르는 일이 된다. 사람이 낸 안은 대부분 AI의 안보다 나쁘다. 그래서 사람이 AI의 안에 없는 새 안을 내놓는 일은 드물어진다.11
가중치 파일이 국경이 된다. 파일 하나에는 한 나라가 몇 해 동안 쏟은 연산과 연구가 들어 있다. 그래서 연구소의 보안은 군사 기지의 보안이 되고, 연구원은 출퇴근할 때마다 검문을 거친다. 첩보원이 노리는 것은 사람의 얼굴이 아니라 서버실의 문이다.12
멈추자는 목소리는 경쟁에서 진다. 멈춤을 요구한 회사의 계약은 경쟁사로 넘어가고, 멈춤을 요구한 나라의 연구소는 다른 나라에 뒤처진다. 멈추자는 편이 옳더라도, 옳다는 사실이 이길 까닭이 되지는 않는다. 시나리오의 6 대 4라는 숫자도 표결이 열려야 나올 수 있다.13
시간표가 늦춰지면 사람들은 안도한다. 2027년이 2034년으로 바뀌면 사람들은 일곱 해를 번 것처럼 느낀다. 그러나 이 일곱 해 동안에도 결정의 무게중심은 계획대로 옮겨 간다. 늦춰진 것은 초지능이 오는 날짜일 뿐이고, 사람이 결정에서 비켜서는 속도는 늦춰지지 않는다.14
칩 공장이 첫 표적이 된다. 가중치 파일이 국경이라면, 이 파일을 만드는 칩 공장은 요새다. 대만 해협과 이천의 메모리 단지는 군사 지도에 굵은 원으로 그려진다. 각국은 도시를 지키는 방공망보다 공장을 지키는 방공망을 먼저 세운다.15
수출 허가가 전선이 된다. 어느 나라가 어떤 칩을 몇 개 살 수 있는지가 외교의 첫 의제로 오른다. 칩을 받지 못한 나라는 경주에서 빠지고, 경주에서 빠진 나라는 남의 AI가 내린 결정을 받아 적는다.16
이제 물음 자체가 바뀐다. AI가 사람보다 똑똑해지느냐는 물음에는 이미 답이 나와 있다. 남는 물음은 이후에도 사람이 문명의 한가운데 설 수 있느냐는 것이다. 경제와 정치와 전쟁과 삶의 뜻에서 이 물음을 하나씩 따라가면, 전제가 어디서부터 흔들리는지가 보인다.17
출처 1. 「AI의 판단」 문제 설정 — 앞뒤 출처의 사실을 묶어 이 작품이 세운 물음과 판단 2. AI Governance Library · (첫째 화 출처 1과 같은 글) — 중국 정보기관의 가중치 절도, 「adversarially misaligned」, 감독위원회 표결. 「Race」 결말 「AI-orchestrated takeover in 2030」, 「Slowdown」 결말 6–4 표결·「verified US–China treaty」 3. eWeek · How AI Progression May Be Buying Humanity Time · 2026 · https://www.eweek.com/de/news/ai-doomsayer-rethinks/ / TechCentral · AI expert pushes back deadline for arrival of superintelligent AI · 2026 · https://www.techcentral.ie/ai-expert-pushes-back-deadline-for-arrival-of-superintelligent-ai/ (검색 요약을 따름) — 자율 코딩 단계 2030년대 초, 초지능 2034년 전후로 수정. “we never claimed certainty about 2027” 취지를 의역 4. Center for Humane Technology · What You Need to Know about AI 2027 · 2025 · https://centerforhumanetechnology.substack.com/p/what-you-need-to-know-about-ai-2027 — Daniel Barcay “the pace of AI 2027 as a scenario is one of the more aggressive predictions that we‘ve seen”를 의역. 「경쟁 압력」의 예시라는 설명 5. (NYT 요약 전재) · A Guide to the Pentagon’s Dance With Anthropic and OpenAI · 2026-03-07 · https://davidbader.net/post/20260307-nytimes/ / Fortune · OpenAI in talks with Pentagon after Anthropic blowup · 2026-02-27 · https://www.fortune.com/2026/02/27/openai-in-talks-with-pentagon-after-anthropic-blowup — 앤트로픽의 자율무기·대량 감시 제한 요구, 2/28 공급망 위험 지정, 오픈AI의 「any lawful purpose」 합의 발표 6. Long Yield · The Taiwan Semiconductor Risk · 2026-03-05 · https://longyield.substack.com/p/the-taiwan-semiconductor-risk-the — TSMC 위탁생산 매출 약 70%, 최첨단 공정 90% 이상, CoWoS 첨단 포장 2026년까지 예약 완료·수요 연 113% 증가, 「첨단 포장이 세계 AI 연산 확장의 병목」, 블룸버그의 대만 전쟁 첫해 비용 10조 달러 7. TechCrunch · US government imposes license requirement on Nvidia H20 exports · 2025-04-15 · https://techcrunch.com/2025/04/15/us-government-imposes-license-requirement-on-nvidia-h20-exports — 허가 의무 “required indefinitely”, 55억 달러 비용, 「중국의 슈퍼컴퓨터에 쓰일 위험」, 딥시크 R1 훈련 의혹 8. 뉴스토마토 · HBM4 주도권 굳히기…SK하닉, 엔비디아 물량 2/3 확보 · 2026-01-28 · https://newstomato.com/ReadNews.aspx?no=1289393 — 「베라 루빈」용 HBM4 물량 약 3분의 2를 SK하이닉스에 배정, 카운터포인트리서치 점유율 전망 SK하이닉스 54%·삼성 28%·마이크론 18% 9. Wikipedia · Google DeepMind · https://en.wikipedia.org/wiki/Google_DeepMind — 2014-01-26 구글 인수 확인, 「reportedly ranging between $400 million and $650 million」, 2023년 4월 구글 브레인과 합병해 Google DeepMind, 제미나이 2023-12-06 공개 10. 「AI의 판단」 사람이 AI보다 나은 일의 목록이 해마다 짧아진다는 전망 — 1 과 첫째 화 출처 3에서 외삽 11. 「AI의 판단」 결정이 AI의 안 가운데 하나를 고르는 일이 된다는 전망 — 1 에서 외삽 12. 「AI의 판단」 가중치 파일이 국경이 된다는 전망 — 2 에서 외삽 13. 「AI의 판단」 멈추자는 편이 경쟁에서 진다는 판단 — 2·5 에서 외삽 14. 「AI의 판단」 시간표가 늦춰져도 사람이 비켜서는 속도는 같다는 판단 — 3·4 에서 외삽 15. 「AI의 판단」 칩 공장이 군사 지도의 첫 표적이 된다는 전망 — 6·8 에서 외삽 16. 「AI의 판단」 칩 수출 허가가 외교의 전선이 된다는 전망 — 7 에서 외삽 17. 「AI의 판단」 남는 물음은 사람이 문명의 한가운데 설 수 있느냐는 판단 — 1 에서 외삽.