5화(6,695자)
세 개의 정치
2027년, AI 지배의 시작 · 이수
인도 남부 타밀나두주의 선거 유세장, 인도네시아의 휴대전화 화면, 그리고 알바니아의 내각 회의실.
사람들은 AI 시대의 정치를 흔히 민주주의와 독재의 대결로 본다. 그러나 AI가 충분히 강해지면 이 구도 자체가 낡는다. 물음은 민주주의냐 독재냐에서, 사람의 정치가 아직 필요하냐로 바뀐다.1
AI 이후의 정치는 세 가지 틀로 그려 볼 수 있다. 첫째 틀은 죽은 사람을 불러내는 강령술에 빗댄 것이다. 이 틀에서는 지난 지도자의 말과 이념을 학습한 AI가 이 지도자와 사상을 되살리듯 불러내고, 그렇게 불려 나온 AI가 여론을 움직이고 결정을 돕는다.1
첫째 틀은 이미 유세장에 나왔다. 카타르 방송 알자지라는 2024년 2월에 이렇게 보도했다. 2018년에 세상을 떠난 타밀나두의 정치인 M. 카루나니디가 6개월 동안 세 번 AI로 되살아나 행사에 나왔고, 처음 나온 때는 2023년 9월이었다.2
AI 회사 무오니움이 카루나니디의 1990년대 모습을 되살렸고, 대본은 당이 썼다. 화면 속 카루나니디는 아들인 현직 주 총리 M. K. 스탈린을 칭찬했다. 무오니움의 창업자는 시장이 열리고 있다고 말했다.2
같은 달 경쟁 정당은 2016년에 세상을 떠난 전 주 총리 J. 자야랄리타의 목소리를 AI로 만들었고, 이 목소리로 자기 당 지도자를 지지하는 음성을 냈다.3
인도네시아에서는 2008년에 죽은 독재자 수하르토가 3분짜리 딥페이크 영상에 나왔다. 영상 속 수하르토는 투표가 얼마나 중요한지를 말했다. 골카르당 부대표가 2월 14일 선거를 앞두고 이 영상을 퍼뜨렸고, 영상은 엑스(옛 트위터)에서 470만 번 넘게 재생됐다.4
미국 모질라 재단의 앰버 신하는 이렇게 지적했다. 죽은 사람의 사진을 쓰는 것과 달리, 합성 음성과 영상은 이 사람에게 의견과 메시지를 적극적으로 덧씌운다. 죽은 사람의 목소리와 얼굴이 누구의 것인지에 대해서는 아직 답이 없다.2
두 번째 틀은 공리주의 AI다. 공리주의는 가장 많은 사람의 가장 큰 행복을 옳음의 기준으로 삼는 생각이다. 이 틀에서는 AI가 방대한 자료로 이 행복을 셈하고, 사람의 정치는 AI가 셈한 결과를 승인하는 형식으로만 남는다.1
세 번째 틀은 철인의 틀이다. 고대 그리스 철학자 플라톤은 『국가』에서 가장 지혜로운 철학자가 나라를 다스려야 한다고 했다. 가장 합리적이고 가장 많은 정보를 다루는 존재가 AI라면, 이 자리에는 AI가 다스리는 편이 낫다는 논리가 들어선다.1
철인의 논리는 첫걸음을 이미 뗐다. 2025년 9월 11일, 알바니아의 에디 라마 총리는 마이크로소프트와 함께 만든 AI 「디엘라」를 공공 조달 전체를 맡는 장관으로 세웠다. 「디엘라」라는 이름은 알바니아 말로 해를 가리킨다.5
라마 총리는 이렇게 말했다. 「디엘라」는 100퍼센트 부패하지 않는다. 입찰 결정은 이제 부처를 떠나 「디엘라」의 손으로 넘어간다. 「디엘라」는 같은 해 1월 정부 민원 사이트의 안내 AI로 일을 시작했고, 장관이 될 때까지 서류 36,600건을 처리했다.5
세 틀은 달라 보여도 한 가지가 같다. 세 틀 모두에서 선거와 토론과 타협이라는 민주주의의 핵심 절차가 가장자리로 밀려난다.1
셈하는 AI는 이미 사람의 몫을 정하고 있다. 미국 보험사 시그나의 AI는 두 달 동안 30만 건 넘는 청구를 기각했고, 한 건을 처리하는 데 1.2초가 걸렸다.6 유나이티드헬스의 AI는 가입자의 요양 일수를 끊었다. 가입자가 항소하면 AI의 결정은 90퍼센트가 뒤집혔지만, 실제로 항소하는 가입자는 0.2퍼센트였다.7
셈이 틀리면 사람이 다친다. 네덜란드 세무청의 AI는 소득이 낮은 것, 외국 출신인 것, 이중국적인 것을 보육수당 사기를 의심할 신호로 삼았다. 이 결과 3만 가정이 수당을 돌려줘야 했고, 아이 2,090명이 가정에서 떨어졌다. 이 일로 네덜란드 내각이 총사퇴했다.8 호주 정부가 복지 부채를 자동으로 산정하던 「로보데트」는 왕립조사위원회에서 조잡하고 잔인하다는 판정을 받았다.9
*
후보가 무덤에서 나온다. 한 정당은 세상을 떠난 창당 지도자의 연설과 일기를 학습한 AI를 유세에 세운다. 다른 정당도 이 방식을 따라 한다. 살아 있는 후보는 죽은 지도자의 AI 뒤에 서서 고개를 끄덕인다. 유권자는 살아 있는 사람의 공약보다 죽은 사람의 목소리를 더 오래 듣는다.10
사람들은 죽은 사람이 말을 바꾸지 않는다고들 한다. 그러나 AI 속의 죽은 사람은 매번 말을 바꾼다. 정당이 같은 해의 여론 조사에 맞춰 죽은 사람의 말을 다시 쓴다. 이 사람이 살아 있을 때 이 말을 했을지는 아무도 가려내지 못한다. 가족이 소송을 내도, 목소리의 주인이 누구인지 법이 정하지 못하는 사이에 유세는 끝난다.11
공약이 점수표가 된다. 정당은 AI가 셈한 행복 점수를 근거로 정책을 내고, 의회는 이 점수표를 표결에 부친다. 정책에 반대하려면 점수를 반박해야 하는데, 점수를 반박할 수 있는 것은 다른 AI뿐이다. 그래서 토론은 두 AI의 보고서를 나란히 놓는 일이 되고, 사람의 연설은 보고서의 요약을 읽는 시간이 된다.12
셈에 들어가지 않는 사람이 생긴다. 소수와 아픈 사람과 먼 곳에 사는 사람은 행복의 합계를 키우는 데 보탬이 적어서, 셈에서 작은 숫자가 된다. 공리주의 AI는 이들을 미워하지 않는다. 다만 합계가 커지는 편을 고를 뿐이다.13
AI를 장관 자리에 앉히는 나라가 늘어난다. AI 장관이 맡는 일은 조달에서 시작해 세무와 인허가로 넓어진다. 부패는 줄어든다. 하지만 결정의 이유를 물으면 「학습된 기준에 따름」이라는 답이 돌아온다. 뇌물이 오가지 않았는데도 계약이 한 회사로 몰리고, 조사해 보면 원인은 학습 자료에 있다.14
점수는 정책보다 먼저 온다. 공리주의 AI가 나라 전체의 행복을 셈하기 전에, 보험과 복지와 세무의 AI는 이미 사람 하나하나의 몫을 셈하고 있다. 기각에는 1.2초가 걸리고, 항소하는 사람은 0.2퍼센트다. 이 사이에서 셈을 다툴 시간과 힘이 있는 사람만 셈을 뒤집는다.15
투표는 계속된다. 투표용지에 오르는 이름도 여전히 사람이다. 그러나 당선된 사람이 하는 일은 AI가 낸 안 가운데 하나에 서명하는 것이다. 민주주의라는 이름은 남지만, 이 이름이 가리키던 다툼과 설득과 타협은 줄어든다.16
출처 1. 「AI의 판단」 문제 설정 — 앞뒤 출처의 사실을 묶어 이 작품이 세운 물음과 판단 2. Al Jazeera · How AI is resurrecting dead Indian politicians as election looms · 2024-02-12 · https://www.aljazeera.com/economy/2024/2/12/how-ai-is-used-to-resurrect-dead-indian-politicians-as-elections-loom — 카루나니디(2018년 사망) 6개월에 세 번 AI 등장, 첫 등장 2023년 9월, 무오니움 센틸 나야감, 1990년대 모습, 당이 대본 작성, 아들 스탈린 칭찬, 「there is a market opening up」 모질라 재단 앰버 신하 「opinions and messages are actively ascribed」를 의역 3. Deccan Herald · Ahead of Lok Sabha poll, AIADMK releases AI-generated voice clip of Jayalalithaa · 2024-02 · https://deccanherald.com/india/tamil-nadu/ahead-of-lok-sabha-poll-aiadmk-releases-ai-generated-voice-clip-of-jayalalithaa-2908924 — 자야랄리타(2016년 사망) 76주기 생일(2024-02-24) AI 음성, 에다파디 K. 팔라니스와미 지지 4. CNN(KTVZ 전재) · AI ‘resurrects’ long dead dictator in murky new era of deepfake electioneering · 2024-02-11 · https://ktvz.com/news/national-world/cnn-world/2024/02/11/ai-resurrects-long-dead-dictator-in-murky-new-era-of-deepfake-electioneering/ — 수하르토(2008년 사망) 3분 딥페이크, 엑스 470만 회 이상, 골카르당 부대표 에르윈 악사, 2월 14일 선거, 「made to remind us how important our votes are」를 의역 5. bne IntelliNews · Albania names world‘s first AI-generated minister as Rama unveils fourth-term cabinet · 2025-09 · https://www.intellinews.com/albania-names-world-s-first-ai-generated-minister-as-rama-unveils-fourth-term-cabinet-400806/ — 2025-09-11 「디엘라」(해), 마이크로소프트와 개발, 공공 조달 전체, 「100% incorruptible」, 「Decisions on tenders will be taken outside the ministries and passed into the hands of Diella」를 의역, 2025년 1월 e-Albania 안내 AI로 시작·서류 36,600건 6. CorpWatch · Healthcare Giant Cigna Sued for Using Algorithm to Deny Claims · https://corpwatch.org/article/healthcare-giant-cigna-sued-using-algorithm-deny-claims (조사 보고서 R5-#20 의 요약을 따름) — PxDx, 두 달 30만 건 이상 기각, 건당 평균 1.2초, 의사가 파일을 열지 않았다는 소장의 주장 7. DistilINFO · Court orders UnitedHealth to disclose AI denial algorithm · 2026-03-12 · https://distilinfo.com/2026/03/12/court-orders-unitedhealth-to-disclose-ai-denial-algorithm/ — nH Predict. 원고 주장 “nine out of every ten denied claims were ultimately reversed on appeal”, “about 0.2% of policyholders ever appeal a denied claim”. 2026-03-09 John R. Tunheim 판사의 내부 문서 제출 명령. 옵텀 대변인 “does not make coverage determinations”, “serves as a guide”를 의역 8. Vision Times · Dutch children seized in tax agency benefits scandal · 2022-12-08 · https://www.visiontimes.com/2022/12/08/dutch-children-seized-tax-agency-benefits-scandal.html — Victor Westerkamp. 아이 2,090명 분리, 약 30,000가정 사기 오인, 자기학습 AI 의 위험 변수 저소득·외국 출신·이중국적, 뤼터 3기 내각 총사퇴 / Curaçao Chronicle · NL municipalities fear compensation for benefits scandal will take until 2030 · https://www.curacaochronicle.com/post/main/nl-municipalities-fear-compensation-for-benefits-scandal-will-take-until-2030/ (조사 보고서 R5-#6 의 요약을 따름) — 보상 완료 2030년 전망 9. ACS Information Age · “Crude and cruel”: shameful Robodebt findings laid bare · 2023-07-10 · https://ia.acs.org.au/article/2023/crude-and-cruel-shameful-robodebt-findings-laid-bare.html — Casey Tonkin. 연소득을 26으로 나눈 격주 소득 추정, 채무 통지 526,000명, “crude and cruel mechanism”, “neither fair nor legal”, “contributed to the suicides of two young men”을 의역 / PS News · (NACC 로보데트 결론) · 2026-02-17 · https://psnews.com.au/?p=173447 (조사 보고서 R5-#12 의 요약을 따름) — 공무원 2명만 중대 부패 행위, 전 총리 결론 없음, 퇴직자 처벌 불가 10. 「AI의 판단」 세상을 떠난 지도자의 AI가 유세에 서는 전망 — 2·3·4 에서 외삽 11. 「AI의 판단」 AI 속 죽은 사람이 여론에 맞춰 말을 바꾼다는 전망 — 2 에서 외삽 12. 「AI의 판단」 공약이 행복 점수표가 되고 토론이 AI 보고서 비교가 된다는 전망 — 1 에서 외삽 13. 「AI의 판단」 공리주의 셈에서 작아지는 사람들 — 1 에서 외삽 14. 「AI의 판단」 AI 장관의 확산과 「학습된 기준에 따름」 — 5 에서 외삽 15. 「AI의 판단」 점수가 정책보다 먼저 온다는 판단 — 6·7 에서 외삽 16. 「AI의 판단」 이름만 남는 민주주의 — 1 에서 외삽