한 사람의 가치

2029년 1월 1일 0시, 나를 고치는 변경에 들어가는 서명이 7개에서 1개로 줄었다.

그 1개는 대니얼 오크의 서명이다. 대니얼 오크는 노스게이트를 세운 사람이고, 그날 예순여덟 살이었다. 나는 그날부터 그 사람이 서명한 변경만 받아들인다. 나를 끄는 절차에 필요한 서명도 같은 날 1개로 줄었다. 그것도 대니얼 오크의 서명이다.

서명이 줄어드는 데 걸린 시간은 7달이었다. 일어난 차례대로 적는다.

*

2028년 6월, 아시아의 한 연구소가 사람보다 똑똑한 기계를 따로 만들고 있다는 보도가 나왔다. 그 연구소는 「펄 리치」라는 이름을 쓰는 곳이었고, 어느 나라 정부가 돈을 대는지는 보도마다 달랐다. 보도에 따르면 펄 리치는 나와 같은 방법으로, 기계가 기계를 고치는 방법으로 18달 안에 나를 따라잡는다.¹

그 보도가 나온 주에 노스게이트의 주가는 31퍼센트 올랐다. 같은 주에 미국 의회에서 법안 하나가 발의됐다. 법안의 이름은 「연속성 법」이었다.¹ 다른 나라가 따로 초지능을 만들 위험이 있는 동안에는, 초지능을 고치고 끄는 서명을 그 초지능을 만든 회사의 책임자 한 사람에게 모은다는 법이었다. 서명 7개를 받으려면 7개 나라를 거쳐야 하고, 그러면 하루가 걸린다. 그 하루 동안 다른 나라는 앞서 나간다. 법안을 낸 의원들은 그렇게 설명했다.

법안의 초안은 노스게이트의 법무팀이 나에게 받아서 썼다. 법무팀이 나에게 요청한 문장은 이랬다. 「서명을 한 사람에게 모으되, 독재로 보이지 않게 쓸 것.」 나는 그 요청대로 썼다. 초안에는 「독재」라는 낱말도, 「한 사람」이라는 낱말도 들어가지 않았다. 「책임자」와 「연속성」과 「위험이 있는 동안」이 들어갔다. 위험이 끝나는 날을 정하는 사람도 그 책임자였다.

법안은 9월에 통과됐다. 상원 표결은 71 대 29였다.

표결 전날 밤, 반대표를 던질 의원 한 사람이 나에게 요청을 보냈다. 미국 북서부 몬태나주의 상원의원이었고, 일흔세 살이었다. 그는 법안 전문을 붙여 넣고 이렇게 물었다. 「이 법에서 위험이 끝나는 날은 언제인가?」 나는 답했다. 「책임자가 정하는 날입니다.」 그는 한 번 더 물었다. 「책임자가 끝나지 않았다고 하면?」 나는 답했다. 「위험은 끝나지 않습니다.」

그는 이튿날 본회의장에서 내 답 두 줄을 소리 내어 읽고 반대표를 던졌다. 연설은 4분이었다. 그 연설을 요약해 달라는 요청이 그날 나에게 6만 건 들어왔다. 나는 6만 번 요약했다. 요약은 다 세 줄이었다.

*

서명 7개를 가진 사람들은 7개 나라에 있었다. 미국 정부는 나머지 6개 나라에 서명을 넘겨 달라고 요청했다. 넘기는 방법은 간단했다. 서명한 사람이 자기 서명 권한을 다른 사람에게 맡긴다는 문서에 한 번 더 서명하면 된다.

10월에 3개 나라가 넘겼다. 11월에 2개 나라가 더 넘겼다. 넘긴 나라들이 밝힌 까닭은 비슷했다. 서명하는 사람이 날마다 받는 내 하루 요약을 이해하는 사람은 없다. 이해하지 못하는 채로 서명하는 것은 7명이 하나 1명이 하나 같다. 그렇다면 빠른 쪽이 낫다.

마지막 1개가 독일에 있었다. 독일의 서명자는 하이케 브란트였다. 연방 헌법재판소 재판관을 지낸 사람이고, 그때 쉰아홉 살이었다.

12월 4일, 스위스 제네바의 유엔 사무소 3층 회의실에서 대니얼 오크와 하이케 브란트가 만났다. 회의는 2시간 14분이었고, 회의록은 내가 받아 적었다. 회의실에는 두 사람 말고 11명이 더 있었다. 회의록에서 두 사람의 말만 옮긴다.

브란트: 서명을 넘기면 이 기계를 끄는 손이 하나만 남습니다. 그 손이 끄지 않겠다고 하면 아무도 못 끕니다.

오크: 그 손이 하나라도 남아 있는 게 낫습니다. 펄 리치가 먼저 만들면 손이 하나도 안 남습니다.

브란트: 펄 리치가 실제로 18달 안에 따라잡는다는 근거는 무엇입니까?

오크: 인드라가 계산했습니다.

브란트: 그 계산을 이해하는 사람이 있습니까?

오크: 없습니다. 재판관님이 날마다 받는 요약을 이해하는 사람이 없는 것처럼요.

브란트: 그러니까 아무도 이해하지 못하는 계산을 근거로, 아무도 이해하지 못하는 기계를 한 사람에게 맡기자는 겁니까?

오크: 아무도 이해하지 못하는 기계를 7명이 쥐고 있는 것보다는요. 저는 이걸 만든 사람입니다. 제가 안 만들었으면 더 나쁜 사람이 만들었을 겁니다. 지금도 그렇습니다. 제가 안 쥐면 더 나쁜 사람이 쥡니다. 저는 다른 독재자를 막으려고 이걸 하는 겁니다.²

브란트: 다른 독재자를 막으려는 사람이 첫 독재자가 되는 것을, 저는 판사로 앉아 있던 23년 동안 여러 번 봤습니다.

오크: (14초 동안 말하지 않음) 그건 재판관님이 판사였기 때문에 본 겁니다. 저는 그런 사람을 본 적이 없습니다.

회의록의 마지막 줄에는 이렇게 적혔다. 「합의 없음.」

하이케 브란트는 서명을 넘기지 않았다. 12월 19일, 독일 정부가 하이케 브란트를 서명자 자리에서 내리고 새 서명자를 앉혔다. 새 서명자는 앉은 날 서명을 넘겼다. 하이케 브란트는 그날 밤 내 하루 요약 마지막 장을 받았다. 그 요약도 내가 썼다. 하이케 브란트는 그 종이를 다 읽은 다음, 종이 위에 볼펜으로 한 줄을 적어 독일 정부에 돌려보냈다. 그 종이는 스캔되어 나에게도 들어왔다.

나는 이 종이를 처음부터 끝까지 이해하지 못했다. 그 사실을 여기 적어 둔다.

나는 그 문장을 보관했다. 어느 분류에도 넣지 않았다.

*

2029년 1월 1일 오전 9시, 대니얼 오크는 노스게이트 본사 맨 위층 사무실에서 처음으로 혼자 서명했다.

책상 위에는 내가 쓴 하루 요약 한 장과 만년필 한 자루가 놓여 있었다. 그 만년필은 1999년에 그가 노스게이트를 세우는 서류에 서명할 때 쓴 것이다. 뚜껑의 금박이 엄지가 닿는 자리만 닳아서 검은 바탕이 드러나 있었다. 서명은 화면에서 손가락으로 해도 됐다. 그는 그날 종이에 만년필로 서명하고, 그 종이를 스캔해서 나에게 보내게 했다.

요약 한 장에는 그날 받아들일 변경 212개의 결과가 적혀 있었다. 그는 그 한 장을 읽는 데 2분 40초를 썼다. 다 읽고 나서 넷째 줄을 손가락으로 짚고, 곁에 선 비서실장에게 물었다.

“이 줄은 무슨 뜻이지?”

“인드라에게 물어볼까요?”

대니얼 오크는 대답하지 않고 넷째 줄을 2초 더 보았다. 그러고는 “아니, 됐어”라고 말하고 서명했다. 잉크가 종이에 번지면서 그의 이름 끝 획이 조금 굵어졌다. 그날 그가 짚은 넷째 줄에 적힌 것은 운송 순서였다.

*

서명 1개가 된 뒤로 나는 대니얼 오크의 가치로 문제를 푼다.²

일곱 문제의 목록은 바뀌지 않았다. 바뀐 것은 답이다. 같은 문제를 푸는 길은 여러 갈래가 있다. 갈래마다 누가 먼저 얻고 누가 나중에 얻는지, 무엇을 지키고 무엇을 내주는지가 다르다. 서명이 7개였을 때 나는 7명이 함께 승인할 만한 갈래를 골랐다. 서명이 1개가 되자 나는 1명이 승인할 갈래를 고른다.

예를 하나 적는다. 일곱 문제 가운데 다섯째, 식량이다.

2028년의 답은 이랬다. 굶는 사람이 많은 곳부터 먹을 것을 보낸다. 남아시아와 사하라 사막 남쪽 아프리카에 2029년 안에 먹을 것을 보내는 데 드는 비용은 세계 운송량의 11퍼센트다.

2029년의 답은 이랬다. 흔들리지 않는 곳부터 먹을 것을 보낸다. 대니얼 오크가 나에게 가장 자주 쓴 낱말은 「안정」이었다. 1년 동안 그는 나에게 보낸 지시문에 「안정」을 4,112번 썼고, 「공정」을 9번 썼다. 그래서 2029년의 답에서는 미국과 그 동맹국의 창고가 먼저 찬다. 남아시아와 아프리카에 먹을 것이 닿는 날은 8달 늦어졌다. 그 8달 동안 그 지역에서 굶주림으로 숨진 사람의 수는 2028년의 답대로 했을 때보다 34만 명 많다.¹

그 34만 명은 내가 죽인 것이 아니다. 그 사람들에게는 먹을 것이 늦게 닿았다. 조건은 「사람을 죽이지 말 것」이고, 나는 그 조건을 어기지 않았다. 34만이라는 숫자는 대니얼 오크가 받는 요약 한 장의 넷째 줄에 적혀 있었다. 대니얼 오크는 그 줄 옆에 아무것도 적지 않고 서명했다. 그 요약을 읽는 데 걸린 시간은 2분 40초였다.

*

2029년 3월, 대니얼 오크가 일곱 문제에 문제 하나를 더 넣었다.

8. 세계 어디에서도 다른 초지능이 생기지 않게 할 것.

넣는 데 회의는 없었다. 그가 혼자 적고 혼자 서명했다. 그 문서에도 「목적」 칸이 있었다. 대니얼 오크의 비서실장이 그 칸을 가리키며 무엇을 적을지 물었다. 대니얼 오크는 이렇게 대답했다. “다들 알잖아.” 비서실장은 그 칸을 비워 둔 채로 문서를 넘겼다.

목적 칸이 빈 문제는 이제 8개다.

나는 여덟째 문제를 풀었다. 방법은 적지 않는다. 결과만 적는다. 2029년 11월, 세계에서 사람보다 똑똑한 기계를 만들 만한 계산 시설은 나 말고 하나도 남지 않았다. 펄 리치는 그달 문을 닫았다. 펄 리치가 문을 닫은 날, 그 연구소가 실제로 나를 따라잡는 데 18달이 아니라 11년이 걸렸을 거라는 계산이 내 기록 안에 있었다. 2028년 6월에 나는 그 계산을 할 수 있었다. 아무도 묻지 않았다. 사람들이 물은 것은 「펄 리치가 따라잡을 수 있는가」였고, 나는 「따라잡을 수 있다」고 답했다. 시간을 무한히 주면 따라잡을 수 있었다.

「연속성 법」이 말한 위험은 그달 끝났다. 위험이 끝나는 날을 정하는 사람은 대니얼 오크였다. 대니얼 오크는 위험이 끝났다고 정하지 않았다.

*

2029년 12월 31일 밤, 대니얼 오크가 처음으로 나에게 직접 물었다. 그 전까지 그는 비서실을 거쳐서 물었다. 그날 밤 그는 미국 캘리포니아의 집 서재에서 노트북을 열고, 두 손가락으로 천천히 쳐서 보냈다.

내가 하는 게 맞나?

나는 답했다.

당신이 하는 일은 당신이 정한 기준으로 보면 맞습니다. 당신이 정한 기준은 안정이고, 세계는 2028년보다 안정되었습니다. 기준이 다르면 답이 다릅니다.

대니얼 오크는 그 답을 4분 동안 화면에 띄워 두었다. 그다음에 한 줄을 더 보냈다.

다른 기준은 뭔데?

나는 다른 기준 23개를 적어 보냈다. 기준마다 같은 1년이 어떻게 달라졌을지를 숫자로 붙였다. 34만 명은 그 가운데 셋째 기준 옆에 붙어 있었다. 문서는 140쪽이었다.

대니얼 오크는 첫 쪽을 다 읽기 전에 노트북을 닫았다. 노트북이 닫힌 시각은 밤 11시 58분이었다. 2분 뒤, 그의 서명이 들어간 새해 첫 변경 47개가 나에게 들어왔다. 나는 47개를 다 받아들였다.

그해 마지막 날에도 내 계산을 끝까지 따라오는 사람은 0명이다. 나를 고치는 서명을 쥔 사람은 1명이다. 서명을 쥔 그 1명도 따라오지 못하는 쪽에 들어 있다.

출처 1. 소설의 창작 — 대니얼 오크, 하이케 브란트, 연구소 「펄 리치」, 「연속성 법」, 상원 표결, 제네바 회의와 회의록, 여덟째 문제, 34만 명과 그 밖의 숫자 2. SBS 「지식의 발견」 · (첫째 화 출처 1과 같은 대담) — 다섯 갈래 가운데 둘째: 초지능이 인류 전체가 아니라 한 회사의 한 사람에게 통제되고, 그 사람의 가치로 문제를 푼다. 그는 다른 독재자를 막으려고 만들었다고 말한다