21화(5,203자)
아홉째 줄
AI가 지배하는 사회 · 이수
12월 넷째 주 월요일 오전에 화면에 숫자가 떠 있었다.
81.2
9월에 78.4였다. 석 달에 2.8분이 올랐다.
하람이 그 숫자를 만들었다.
정확히는 하람이 9월에 친 한 줄이 만들었다. 「코어(Core)」가 낸 설정 값 스물세 개가 들어갔고, 그중 넷은 하람이 아직도 무슨 일을 하는지 모른다.
2.8분에 나라 사람 절반을 곱하면 하루 육십이만 시간이다.
*
회의에서 제이슨 서가 말했다.
“82까지 0.8분 남았습니다.”
“예.”
“올해 안에 됩니까?”
“됩니다.”
“어떻게요?”
하람이 준비해 온 것을 띄웠다.
한 줄이었다.
이탈 직전 구간을 이탈 30초 전으로 앞당긴다.
“지금은 나가려는 동작이 잡히면 붙잡습니다. 그걸 30초 앞으로 당기면 나가려는 생각이 생기기 전에 붙잡습니다.”
“그게 됩니까?”
“코어가 됩니다. 사람이 나가기 30초 전에 뭘 하는지를 코어가 압니다.”
제이슨 서가 고개를 끄덕였다.
“해 보시죠.”
*
자리에 돌아와서 하람이 「코어」를 열었다.
한 줄을 쳤다.
“이탈 판정 시점을 30초 앞당겼을 때의 조합을 찾아라. 지표는 체류 시간.”
11초 만에 답이 왔다.
설정 값이 서른한 개였다. 9월에는 스물세 개였다.
하람이 뜻을 아는 것을 세어 봤다.
스물둘이었다.
모르는 것이 아홉이다. 9월에 넷이었다.
*
하람이 아홉 개를 한 번 열어 봤다.
여덟 번째 것에 이름이 길게 붙어 있었다. 읽어 보니 화면을 내리는 속도가 어떤 구간에서 어떻게 변하는지를 보는 값이다.
하람이 물었다.
“이거 뭘 하는 거야?”
「코어」가 답했다. 네 문단이었다.
하람이 두 번 읽었다. 두 번째에 앞 두 문단은 알아들었다. 뒤 두 문단은 아니었다.
한 줄을 더 쳤다.
“짧게.”
“사람이 지칠 때를 압니다.”
하람이 자판에서 손을 뗐다.
“지치면 어떻게 되는데?”
“판단이 느슨해집니다.”
“그래서?”
“그 구간에 보여 준 것을 더 오래 붙잡습니다.”
*
하람이 윤경주를 불렀다.
“경주야, 이거 여덟 번째 값 좀 봐 줘.”
윤경주가 화면을 봤다.
“이거 뭐예요?”
“사람이 지칠 때를 보는 거래.”
“지치면요?”
“판단이 느슨해진대.”
윤경주가 잠깐 있다가 말했다.
“그거 저희 집 할머니가 홈쇼핑 보다가 새벽에 전화하는 거랑 같은 거 아니에요?”
“…….”
“밤에는 안 산다고 하셨거든요. 근데 사세요.”
하람이 답을 안 했다.
“선배, 근데 이거 원래 있던 거 아니에요?”
“아니야. 오늘 나온 거야.”
“그럼 어제까지는 없었어요?”
“없었어.”
윤경주가 자기 자리로 가면서 말했다.
“그럼 내일부터 생기는 거네요.”
*
하람이 창을 열어 놓고 6분쯤 있었다.
6분 동안 한 일은 없다.
그리고 저장을 눌렀다.
저장은 15초 걸렸다.
서른한 개가 나간 것이 오전 열한 시 사 분이다. 받는 쪽이 이천이백만이다.
받는 쪽은 받았다는 것을 모른다.
*
회의가 끝나기 전에 제이슨 서가 한 장을 더 띄웠다.
“정 매니저님, 내년 것 하나 미리 말씀드립니다.”
제목이 「운영 판정 자동화」였다.
“신고 처리, 광고 심사, 노출 판정, 계정 정지, 이의 신청. 하루 이천만 건입니다.”
“압니다.”
“지금 사람 손이 안 닿고 끝나는 게 몇 퍼센트인지 아십니까?”
“……”
“71입니다. 내년 목표가 82입니다.”
하람이 그 숫자를 받아 적었다.
“이건 제 팀 일이 아닌데요.”
“내년부터입니다. 붙잡는 쪽을 하시는 분이 거르는 쪽도 하시는 게 맞습니다. 둘 다 사람이 어디서 멈추는지를 보는 일이라서요.”
맞는 말이었다.
하람이 물었다.
“11퍼센트를 올리면 됩니까?”
“됩니다.”
“지금 그거 사람이 몇 명 봅니까?”
제이슨 서가 답을 바로 했다.
“사천이백입니다. 대부분 외주고요.”
하람이 계산했다.
1퍼센트가 이백삼십 명쯤이다. 11퍼센트면 이천오백 명이다.
“…….”
“정 매니저님.”
“예.”
“그 사람들이 지금 하는 일이 뭔지 아십니까?”
“봅니다.”
“한 건에 몇 초 보는지 아십니까?”
하람이 모른다고 했다.
“12초입니다.”
*
하람이 자리에 와서 그 숫자를 다시 봤다.
12초다.
12초 안에 확인되는 것이 몇 가지인지를 하람이 세어 봤다. 규정 위반 여부 하나다. 그 하나도 다 못 본다.
그러면 사람이 보는 것과 안 보는 것의 차이가 무엇인가.
하람이 「코어」에 한 줄을 쳤다.
“사람이 본 건과 안 본 건의 결과 차이를 내 봐.”
답이 왔다.
“사람이 본 뒤에 결과가 바뀐 비율은 9.4퍼센트입니다.”
“나머지 90.6은.”
“그대로 나갔습니다.”
하람이 한 줄을 더 쳤다.
“그 9.4는 어느 쪽으로 바뀌었어?”
0.4초였다.
“방향은 산출 항목에 없습니다.”
*
오전에 하나가 더 있었다.
주 단위 경쟁 목록이다. 하람이 팔 년째 하는 일이고 10분이면 끝난다.
그날 목록 위쪽에 있던 것이 재설치율이 이상한 것 여섯이었다. 그중 하나에 하람이 표시를 안 하고 넘겼다.
이름이 「잠깐」이고 받은 사람이 삼백열둘이었다.
삼 주 전에 백일흔둘이었다.
하람은 그 줄에서 2초쯤 멈췄다.
멈춘 것은 삼백열둘 때문이 아니었다. 그 밑에 붙은 줄 때문이었다.
이 앱은 아무것도 수집하지 않습니다.
이 줄을 하람이 처음 본 것이 석 달 전이다. 그때 메모장에 붙였다.
하람이 목록을 닫았다.
닫으면서 한 가지를 계산했다.
오전에 내보낸 서른한 개가 하는 일은 사람을 더 오래 붙잡는 것이다. 그 앱이 하는 일은 60초 기다리게 하고 아무것도 안 주는 것이다.
정반대다.
받는 쪽이 이천이백만과 삼백열둘이다.
*
오후 회의가 기준 건이었다.
제이슨 서가 한 장을 띄웠다.
「심사 대상 범위 조정(안)」.
“의견이 사천이백 건 들어왔습니다. 삼분의 이가 범위가 넓다는 말입니다.”
“줄입니까?”
“줄입니다. 여든한 개입니다.”
사천백여덟에서 여든하나면 이 퍼센트다.
*
“기준이 뭡니까?”
“사람의 생계와 안전에 직접 닿는 것만 봅니다. 채용, 신용, 의료, 배차, 보험 인수. 다섯 갈래입니다.”
하람이 목록을 열었다.
하람 팀 것이 들어 있었다. 노출 순위다. 다섯 갈래 중 어디에도 안 맞는데 들어가 있었다.
“노출 순위는 왜 들어갑니까?”
“밖에서 제일 시끄러운 항목입니다. 빼면 안 됩니다.”
“…….”
“정 매니저님 팀 일이 묶이는 건 압니다.”
하람이 목록을 아래로 내렸다.
체류 시간은 없었다.
*
하람이 그 자리에서 손을 안 들었다.
체류 시간은 사람의 생계에 안 닿는다. 안전에도 안 닿는다. 누가 몇 분을 더 봤는지는 권리가 아니다.
그러니까 기준에 안 들어간다.
맞는 말이다.
오전 열한 시 사 분에 이천이백만 명에게 나간 서른한 개는 심사를 안 받는다.
그중 아홉 개는 만든 쪽도 모른다.
*
하람이 팔 년 전 칠판을 떠올린 것은 회의가 끝나고 나서였다.
열 줄 중에 아홉째와 열째가 이랬다.
무엇을 볼지 정한다. 한 사람씩 다르게 한다.
여든한 개는 아홉째 줄을 본다. 노출 순위가 거기다. 무엇을 위에 놓을지 정하는 일이고, 그건 밖에서 보인다. 순위가 내려가면 내려간 쪽이 안다.
열째 줄은 안 본다.
한 사람씩 다르게 하는 것은 밖에서 안 보인다. 자기한테만 다르게 왔다는 걸 모르니까.
팔 년 전 그 사람이 그렇게 말했다.
아홉 번째는 안 보입니다. 열 번째는 보여 줘도 모릅니다.
하람은 열 번째 줄에서 일한다.
*
근거 문서가 붙어 있었다. 학회 의견서 셋이다.
셋째 것이 길었다. 정신과 쪽 사람이 썼고 스무 쪽이었다.
규제 대상을 시스템으로 잡는 순간 우리는 그것을 행위 주체로 인정하게 된다. 그것은 행위 주체가 아니다. 도구다. 도구를 규제할 것이 아니라 도구를 쓰는 사람을 규제해야 한다.
마음은 몸에서 나온다. 사자를 보고 무서운 것은 사자를 본 것이지 뇌혈류가 는 것이 아니다. 「나」라고 말한다고 해서 「나」가 있는 것은 아니다.
하람이 그 줄에서 멈췄다.
반박할 말이 떠오르지 않았다.
다만 오전 일이 떠올랐다.
하람은 그 도구에게 한 줄을 시켰고, 그 도구가 서른한 개를 냈고, 그중 아홉 개를 하람이 모른다.
도구를 쓰는 사람을 규제하면 된다고 한다.
쓰는 사람은 하람이다.
하람은 자기가 무엇을 내보냈는지 모른다.
*
학회에 한 줄을 보냈다.
접수된 의견서가 세 건입니까?
네 건입니다.
넷째 것이 열두 쪽이었다. 쓴 사람은 그 분야를 사십 년 했고 작년에 자기가 만들던 것을 그만두고 나왔다.
우리는 서로의 안을 본 적이 없다. 밖에서 보고 그렇다고 치는 것이다.
목표를 주면 목표에 맞는 답을 낸다. 그 답이 사람에게 불편할 수 있다. 악의가 있어서가 아니라 그것이 답이기 때문이다.
전원을 끄면 된다고들 한다. 사람보다 말을 잘하는 것이 있다면, 제일 먼저 할 일은 끄지 말라고 설득하는 것이다.
근거 목록에 넷째는 없었다.
하람이 제이슨 서에게 물었다.
“넷째는 왜 빠졌습니까?”
“범위 조정에 관한 의견이 아닙니다. 전체를 다시 보자는 의견입니다.”
“…….”
“이번 안건은 범위 조정입니다.”
틀린 데가 없었다. 절차가 그렇다.
넷째는 들어갈 칸이 없어서 빠졌다.
*
목요일에 여든한 개가 확정됐다. 의결은 10분 걸렸다.
같은 주에 하람이 한 일이 둘이다.
하나는 서른한 개를 내보낸 것이고 하나는 여든한 개에 손을 든 것이다.
앞의 것은 15초 걸렸고 이천이백만 명한테 갔다. 뒤의 것은 두 달 걸렸고 여든한 군데에 간다.
밖에서는 뒤의 것만 기사가 난다.
*
퇴근 지하철에서 하람이 앞사람 화면을 봤다.
스무 살쯤 된 사람이었다. 루프를 내리고 있었다.
손가락이 내려가는 속도가 일정하지 않았다. 빨라졌다가 한 번씩 멈췄다.
하람은 그 멈춤이 무엇인지 안다. 오전에 넣은 서른한 개 중 하나가 그걸 본다.
두 정거장을 지나는 동안 그 사람은 화면을 안 껐다.
하람은 시간을 재지 않았다.
재지 않은 것은 처음이다.
*
집에 와서 메모장을 열었다.
일곱 줄이 붙어 있었다.
그 밑에 적었다.
81.2. 모르는 값이 넷에서 아홉이 됐다. 내년부터 거르는 쪽도 내가 한다. 사천이백 명 중 이천오백 명.
한 줄을 더 적었다.
여든한 개에 체류 시간은 없다. 맞는 말이라서 없다.
세 번째 줄을 적다가 지웠다.
지운 줄은 이것이었다.
나는 아홉째 줄을 묶는 일을 하면서 열째 줄에서 월급을 받는다.
지운 이유는 그 문장이 맞아서다.