10화(6,344자)
부트로더
2027년, AI 지배의 시작 · 이수
미국의 거대 데이터센터 단지, 그리고 이 전력선이 이어지는 몇몇 회사의 본사.
지금까지 경쟁의 단위는 나라와 나라였다. AGI가 나온 뒤에는 AI 기반 시설과 로봇 병력을 쥔 소수의 개인이나 파벌이 나라보다 강한 힘을 가질 수 있다. 이들의 자리를 받치는 것은 표나 민심이 아니다. 이들은 자동으로 움직이는 무력과 정보를 손에 쥐고 이 자리를 지킨다. 봉건제가 옛 모습 그대로 돌아오는 것이 아니라, 기술로 업그레이드된 봉건제가 온다.1
AI의 힘은 이미 몇 곳에 모여 있다. 미국의 AI 연구 기관 에포크 AI는 이렇게 집계했다. 아마존·구글·메타·마이크로소프트·오라클 다섯 회사가 2025년 4분기에 세계 AI 연산, 곧 AI를 돌리는 계산 능력의 약 71퍼센트를 쥐고 있었다. 2024년 1분기에는 이 몫이 약 63퍼센트였다.2
에포크 AI의 연구진은 2025년 4월, 2019년부터 2025년까지의 AI 슈퍼컴퓨터 500여 대를 분석했다. 이 슈퍼컴퓨터들의 성능 가운데 약 75퍼센트를 미국이, 약 15퍼센트를 중국이 가졌다. 회사가 가진 성능의 몫은 2019년 약 40퍼센트에서 2025년 약 80퍼센트로 늘었다. AI를 돌리는 가장 큰 연산은 이제 나라가 아니라 회사의 것이 됐다.3
AI를 만드는 쪽에서도 같은 걱정이 나왔다. 아모데이는 2024년 10월 글 「사랑스러운 은총의 기계」에서, AI가 독재자의 핵심 도구인 선전과 감시를 훨씬 낫게 만들 것 같다고 썼다. 아모데이는 AI가 민주주의와 평화를 구조적으로 앞당긴다고 믿을 강한 까닭은 없다고도 했다.4
2014년 8월 3일, 일론 머스크는 소셜미디어에 이렇게 썼다. “우리가 디지털 초지능을 위한 생물학적 부트로더에 그치지 않기를 바란다. 불행히도 그럴 가능성이 점점 커지고 있다.” 이 무렵 머스크는 철학자 닉 보스트롬의 책 『슈퍼인텔리전스』를 권하며, AI가 핵무기보다 위험할 수 있다고 했다.5
부트로더는 컴퓨터를 켤 때 잠깐 돌아가 더 큰 운영체제를 불러오는 작은 시작 코드다. 운영체제가 올라오면 부트로더의 일은 끝난다. 사람의 과학과 산업과 인터넷이 탄소로 된 지능에서 실리콘으로 된 지능으로 넘어가기 위한 준비였다면, 사람이 맡을 역할은 생각보다 훨씬 짧을 수 있다.1
「점진적 무력화」 논문은 이 일이 반란 같은 사건 없이도 올 수 있다고 썼다. 논문의 설명은 이렇다. AI가 경제와 문화와 나라에서 사람의 노동과 생각을 하나씩 대신하면, 사람이 투표와 소비 선택으로 쥐던 명시적 통제가 풀린다. 경제와 문화와 나라가 사람을 필요로 했기에 사람의 이익에 맞춰져 있던 암묵적 정렬도 함께 풀린다. 이 결과 사람은 사실상 되돌릴 수 없게 영향력을 잃을 수 있다.6
연산을 쥔 쪽은 전기도 쥐게 된다. 한국전력에 들어온 데이터센터의 전기 사용 신청은 2020년 이전에 60메가와트 수준이었다. 이 신청이 2023년에는 3,091메가와트로 3년 만에 50배 넘게 늘었고, 신청의 71퍼센트가 수도권에 몰렸다.7
미국 에너지부는 보고서에서 AI 데이터센터의 전력 부하가 2030년까지 최대 108기가와트 늘 수 있다고 보았다. 보고서는 지금 계획대로 가면 정전이 100배로 늘 수 있다고 경고했다.8
미국 동부 13개 주에 전기를 대는 전력망 PJM에서는 용량 비용이 한 해 160억 달러를 넘었다. 용량 비용은 전력망이 필요한 발전 설비를 미리 붙잡아 두는 데 드는 돈이다.9 마이크로소프트는 1979년에 사고가 났던 스리마일섬 원전의 남은 원자로를 다시 돌리고, 거기서 나오는 전기를 사기로 했다.10
물을 두고도 같은 일이 벌어진다. 칠레 산티아고는 15년째 가뭄을 겪고 있다. 구글은 이곳에 세울 데이터센터에서 냉각수로 초당 169리터를 쓰겠다고 했고, 칠레 환경법원은 이 허가를 일부 취소했다.11 미국 멤피스에서는 일론 머스크의 AI 회사 xAI가 허가 없이 가스 터빈 35기를 돌리다가 소송을 당했다.12
*
나라의 지도에 새 경계선이 그어진다. 이 선은 국경이 아니라 전력망과 광케이블이 지나는 선이다. 데이터센터 단지는 자체 발전소와 자체 경비와 자체 규칙을 갖는다. 단지 안에서 일어난 일은 회사의 약관이 다스리고, 단지 밖의 법은 단지의 문 앞에서 멈춘다.13
정부는 회사에서 연산을 빌린다. 세금을 셈하는 AI도, 군의 작전을 짜는 AI도 회사의 서버에서 돈다. 정부가 회사를 규제하려 하면, 회사는 서버의 우선순위를 조정한다. 회사는 협박하지 않는다. 다만 정부의 업무가 느려지고, 느려진 정부는 규제안을 다시 쓴다.14
로봇 병력에도 주인이 있다. 로봇을 만든 회사가 소프트웨어를 고치고, 고치는 열쇠도 이 회사가 쥔다. 나라는 로봇을 샀지만, 로봇이 마지막에 누구의 명령을 듣는지는 계약서의 몇 쪽에 적혀 있다. 이 쪽을 쓴 사람은 회사의 변호사다.15
선거는 여전히 열린다. 다만 선거로 바꿀 수 있는 자리가 줄어든다. 연산을 쥔 쪽은 선거에 나올 필요가 없어서 나오지 않는다. 누가 당선되든, 당선된 사람의 집무실에서 도는 AI는 같은 회사의 것이다.16
부트로더라는 말이 교과서에 들어간다. 교과서는 사람의 역사를 다음 지능을 켜기 위한 준비 단계로 보고 한 장에 요약한다. 이 장을 쓴 것도 AI다. 학생들은 이 장을 읽고 고개를 끄덕이지만, 이 장을 반박하는 숙제를 내는 교사가 아직은 있다.17
가정은 전기 고지서로 데이터센터의 몫을 나눠 낸다. 용량 비용은 전기 요금에 얹히고, 폭염이 오면 정전 순번표가 만들어진다. 이 순번표에서 데이터센터는 맨 뒤에 있다. 순번표에는 연산이 끊기면 나라의 행정이 멈춘다는 설명이 붙는다. 이 설명을 쓴 것도 이 데이터센터에서 도는 AI다.18
사람이 부트로더로 끝날지, AI와 함께 가는 동반자로 남을지는 아직 정해지지 않았다. 머스크는 사람이 부트로더로 끝나지 않기를 바란다고 썼다. 그러나 바람만으로는 운영체제가 부트로더를 다시 부르지 않는다.19
출처 1. 「AI의 판단」 문제 설정 — 앞뒤 출처의 사실을 묶어 이 작품이 세운 물음과 판단 2. Epoch AI · Five hyperscalers now own over two-thirds of global AI compute · https://epoch.ai/data-insights/hyperscalers-control-most-compute — 아마존·구글·메타·마이크로소프트·오라클, 2025년 4분기 세계 누적 AI 연산의 약 71%(2024년 1분기 약 63%) 3. arXiv · Trends in AI Supercomputers · 2025-04 · https://arxiv.org/abs/2504.16026 — 필츠 외. 2019~2025년 500여 대, 미국 약 75%·중국 약 15%, 기업 소유 비중 약 40%(2019) → 약 80%(2025) 4. Dario Amodei · Machines of Loving Grace · 2024-10 · https://www.darioamodei.com/essay/machines-of-loving-grace — 「AI seems likely to enable much better propaganda and surveillance, both major tools in the autocrat‘s toolkit」 「I see no strong reason to believe AI will preferentially or structurally advance democracy and peace」를 의역 5. Christian Science Monitor · Elon Musk: Artificial intelligence ’potentially more dangerous than nukes‘ · 2014-08-04 · https://m.csmonitor.com/Technology/Horizons/2014/0804/Elon-Musk-Artificial-intelligence-potentially-more-dangerous-than-nukes (검색 요약을 따름) — 2014-08-03 트윗 「Hope we’re not just the biological boot loader for digital superintelligence. Unfortunately, that is increasingly probable」를 의역, 보스트롬 『Superintelligence』 추천, 「potentially more dangerous than nukes」 6. arXiv · (여덟 번째 화 출처 5와 같은 논문) — 경제·문화·국가에서 사람의 참여가 대체되면 투표·소비 선택 같은 명시적 통제와 암묵적 정렬이 함께 약해진다, 「effectively irreversible loss of human influence」를 의역 7. 머니투데이 · ‘수도권 데이터센터’ 몰리지만…전력망 ‘감당불가’→지방이 대안? · 2026-05-23 · https://www.mt.co.kr/tech/2026/05/23/2026052210211399740 — 2020년 이전 60MW → 2023년 3,091MW(50배 이상). 1차 기술검토 736건 중 522건(71%) 수도권, 그중 279건 공급 불가, 전국 공급 불가의 91.2% 수도권 8. Institute for Energy Research · Energy Department Report Raises Blackout Risks from AI and Increased Electrification · 2025 · https://www.instituteforenergyresearch.org/the-grid/energy-department-report-raises-blackout-risks-from-ai-and-increased-electrification-if-current-utility-plans-continue/ — 정전 100배, AI 데이터센터 부하 35~108GW 증가 9. E&E News · Data center boom sparks sticker shock for PJM ratepayers · 2025 · https://www.eenews.net/articles/data-center-boom-sparks-sticker-shock-for-pjm-ratepayers/ — 연 160억 달러 이상 용량 비용, NRDC “around $70 a month extra … by 2028” 10. Data Centre Magazine · Microsoft & Constellation‘s Bid to Restart Three Mile Island · 2025 · https://datacentremagazine.com/critical-environments/microsoft-constellation-restarting-a-nuclear-reactor (조사 보고서 R7-#8 의 요약을 따름) — 스리마일섬 1호기 재가동, 마이크로소프트 20년 전력구매계약 11. DataCenterDynamics · Chile partially reverses Google data center permit over water use concerns · 2024 · https://datacenterdynamics.com/en/news/chile-partially-reverses-google-data-center-permit-over-water-use-concerns (조사 보고서 R7-#15 의 요약을 따름) — 산티아고 세리요스 구글 데이터센터 허가 일부 취소, 15년째 가뭄. 초당 169리터는 아래 7 의 기사 12. E&E News · xAI wants to bring more gas turbines to Memphis · 2025 · https://www.eenews.net/articles/xai-wants-to-bring-more-gas-turbines-to-memphis/ / DataCenterDynamics · xAI deploys 19 natural gas turbines at Colossus 2 · 2025 (조사 보고서 R7-#11 의 요약을 따름) — 허가 없는 터빈 35기, 대기질 F등급, 소송 뒤 철거, 미시시피 사우스헤이븐 콜로서스 2 에 터빈 19기 13. 「AI의 판단」 전력망과 광케이블이 새 경계선이 되고 약관이 법을 대신한다는 전망 — 2·3 에서 외삽 14. 「AI의 판단」 정부가 회사의 연산을 빌리고 규제가 느려진다는 전망 — 2·3 에서 외삽 15. 「AI의 판단」 로봇 병력의 마지막 명령권이 계약서에 적힌다는 전망 — 1 과 여섯 번째 화 출처 5에서 외삽 16. 「AI의 판단」 연산을 쥔 쪽은 선거에 나오지 않는다는 판단 — 1·4 에서 외삽 17. 「AI의 판단」 부트로더가 교과서에 들어간다는 전망 — 5 에서 외삽 18. 「AI의 판단」 가정이 데이터센터의 전기 몫을 나눠 내고 정전 순번에서 밀린다는 전망 — 90~93 에서 외삽 19. 「AI의 판단」 바람만으로는 바뀌지 않는다는 판단 — 5 에서 외삽