25화(3,969자)
12초
AI가 지배하는 사회 · 이수
1월 셋째 주 월요일에 하람의 팀에 일이 하나 더 붙었다.
붙는다는 통보는 12월에 받았다. 실제로 온 것은 오늘이다.
운영 판정 자동화다. 신고 처리, 광고 심사, 노출 판정, 계정 정지, 이의 신청. 하루 이천만 건.
사람 손이 안 닿고 끝나는 비율이 71이고 목표가 82다.
*
하람이 첫 주에 한 일은 계획을 세우는 것이 아니었다.
앉아 보는 것이었다.
심사 자리는 강남이 아니라 구로에 있다. 하이브 것이 아니고 위탁받은 회사 것이다. 하람이 가겠다고 하니까 그쪽에서 두 번 되물었다.
“정말 오시는 겁니까?”
“예.”
“보시기만 하시는 거죠?”
“해 보려고요.”
*
수요일 아침 아홉 시에 하람이 그 자리에 앉았다.
화면이 둘이다. 왼쪽에 건이 뜨고 오른쪽에 규정이 뜬다.
옆자리 사람이 3분쯤 알려 줬다. 스물아홉 살이고 이 년째라고 했다.
“위에 초록색 뜨면 그냥 넘기시면 돼요.”
“초록이 뭡니까?”
“코어가 괜찮다고 한 거요.”
“그럼 뭘 봅니까?”
“노란 거요.”
“초록은 안 봅니까?”
그 사람이 잠깐 하람을 봤다.
“보긴 보죠.”
*
하람이 백 건을 봤다.
걸린 시간이 26분이었다. 한 건에 15.6초다.
12초가 평균이라는 말을 하람이 회의에서 들었다. 하람은 그보다 느렸다.
느린데도 다 못 봤다.
백 건 중에 하람이 글을 끝까지 읽은 것이 열아홉 건이다. 나머지 여든한 건은 위쪽 두 줄만 읽었다.
두 줄만 읽어도 대개 맞는다. 규정 위반은 대개 위쪽에 있다.
*
여든여섯 번째 건에서 하람이 멈췄다.
신고가 들어온 글이었다. 신고 사유가 자해 암시다.
코어가 초록을 붙여 놨다. 위반 아님이다.
글이 이랬다.
다 정리했어요. 고마웠습니다.
하람이 그 두 줄을 읽었다.
읽고 나서 앞 글을 봤다. 앞 글을 보려면 단추를 두 번 더 눌러야 한다. 규정에는 앞 글을 보라는 줄이 없다.
앞 글이 이랬다.
이사 갑니다. 짐 다 쌌어요.
하람이 초록을 그대로 뒀다.
*
여든여덟 번째도 비슷했다.
이번에는 앞 글이 없었다.
하람이 단추를 세 번 더 눌러서 그 사람이 지난달에 쓴 것을 봤다. 규정에 없는 절차다.
지난달 것이 넉 줄이었고 넉 줄 다 약 이름이었다.
하람이 초록을 노랑으로 바꿨다.
바꾸는 데 4분이 걸렸다.
4분 동안 뒤에 열아홉 건이 쌓였다.
*
점심때 옆자리 사람이 물었다.
“아까 그거 바꾸셨죠?”
“예.”
“그거 바꾸면 우리 지표 떨어져요.”
“무슨 지표요?”
“일치율이요. 코어랑 다르게 매기면 깎여요.”
하람이 젓가락을 놓았다.
“얼마나 깎입니까?”
“월말에 보면 알아요. 저는 작년에 두 번 걸렸어요.”
“왜 걸렸습니까?”
“다르게 매겨서요.”
“틀렸습니까?”
그 사람이 웃었다.
“틀린 건 아니고요. 다른 거죠.”
*
오후에 하람이 코어를 열었다.
“일치율이 뭐야?”
“심사자의 판정이 모델 판정과 일치하는 비율입니다.”
“그게 왜 지표야?”
“품질 지표로 지정되어 있습니다.”
“누가 지정했어?”
0.4초였다.
“지정 주체는 산출 항목에 없습니다.”
하람이 한 줄을 더 쳤다.
“사람이 너랑 다르게 매긴 건 중에 사람이 맞았던 비율은?”
“그 항목은 산출되지 않습니다.”
“왜?”
“맞고 틀림을 나중에 확인한 기록이 없습니다.”
*
하람이 그 답을 오래 봤다.
사람이 다르게 매기면 지표가 깎인다.
깎인 것이 맞았는지 틀렸는지는 아무도 안 본다.
그러면 다르게 매기는 사람이 줄어든다. 줄면 일치율이 오른다. 일치율이 오르면 사람을 빼도 된다는 근거가 된다.
하람이 이 순서를 세 번 확인했다.
틀린 데가 없었다.
*
하람이 그 자리에서 한 가지를 더 물었다.
“여기 몇 분 계십니까?”
“이 층에 백사십 명쯤이요.”
“작년에는요?”
“작년에 이백 명 넘었어요.”
“왜 줄었습니까?”
“초록이 늘어서요.”
하람이 그 말을 받아 적지 않았다.
초록을 늘린 것이 하람이다. 정확히는 하람이 9월에 친 한 줄이다.
그 한 줄을 칠 때 하람은 이 층을 본 적이 없었다.
*
돌아오는 길에 하람이 제이슨 서에게 전화를 걸었다.
“제이슨 씨. 하나만 여쭙겠습니다.”
“예.”
“82를 안 하면 어떻게 됩니까?”
“정 매니저님이 안 하시면요?”
“아니요. 회사가요.”
제이슨 서가 2초쯤 있었다.
“다른 데가 합니다.”
“그게 답입니까?”
“그게 사실입니다.”
“…….”
“정 매니저님, 화약 만들 때도 그랬고 기름 뽑을 때도 그랬습니다. 한 군데가 안 해도 다른 데가 합니다. 안 한 쪽이 없어질 뿐입니다.”
하람이 물었다.
“그러면 아무도 안 멈추는 겁니까?”
“멈추는 건 가능합니다. 다 같이 멈추면요.”
“…….”
“다 같이 멈춘 적이 있습니까?”
하람이 아는 것이 하나 있었다. 핵무기다. 그건 다 같이 멈췄다.
그 말을 하려다 안 했다.
다 같이 멈추기까지 도시 둘이 없어졌다는 것이 같이 떠올라서다.
*
목요일에 본사에서 문서가 하나 내려왔다.
한 장이었다. 제목이 「우리의 원칙」이다.
맨 앞 줄이 이랬다.
사람이 인공지능보다 중요하다.
밑에 여섯 줄이 더 있었다. 사람을 먼저 놓고 설계한다, 사람의 필요에서 출발한다, 사람의 지시를 따르게 만든다.
하람이 그 한 장을 읽는 데 50초가 걸렸다.
읽고 나서 책상에 놓았다.
그 옆에 이번 분기 일정표가 있었다.
일정표에 이렇게 적혀 있다.
자동 통과율 71 → 82 (3분기까지)
두 장에 틀린 줄이 하나도 없다.
같이 놓으면 안 맞는다.
*
윤경주가 그 한 장을 보고 말했다.
“선배, 이거 누가 쓴 거예요?”
“본사.”
“이걸 왜 써요?”
“왜라니.”
“아니, 이런 건 원래 안 쓰잖아요. 안 써도 되는 거니까요.”
하람이 답을 안 했다.
“저희 회사가 사람이 사람보다 중요하다는 문서를 쓴 적은 없잖아요.”
*
금요일에 채용 모델 심사 건이 하람에게 왔다.
여든한 개 중 열한 개가 채용이다. 하람이 맡는다.
목록을 여는데 아래쪽에 하나가 붙어 있었다.
이름이 「AI마당」이었다.
설명란이 이랬다.
이 서비스는 지원자에게 점수를 매기지 않습니다. 한 번에 한 분씩 보여 드립니다. 나란히 놓지 않습니다.
하람이 그 두 줄에서 5초쯤 멈췄다.
밑에 한 줄이 더 있었다.
여기 적으신 것만으로도 밖에서는 누구인지 알아낼 수 있습니다. 저희는 안 모읍니다. 다만 안 모으는 것으로는 못 막습니다.
만든 사람 소개란에 한 줄이 있었다.
코드를 못 씁니다. 같이 만듭니다.
*
하람이 메모장을 열었다.
첫 줄이 아직 있다.
나를 아는 앱은 많은데 나를 말리는 앱은 처음이다.
그 앱을 만든 사람이다.
하람이 목록으로 돌아가서 심사 항목을 봤다.
「AI마당」에 붙은 사유가 이랬다.
산출 근거 검증 불가. 정렬 기준 미제시.
점수를 안 매기니까 점수의 근거를 못 댄다. 못 대면 검증 불가다.
하람이 그 사유를 지우고 다른 것을 적어 보려다 말았다.
적을 칸이 스물두 자였다.
*
퇴근하면서 하람이 윤경주 자리에 들렀다.
“경주야. 하나만 물어볼게.”
“네.”
“우리가 82 안 하면 어떻게 돼?”
“다른 데가 하겠죠.”
“그럼 우리가 손해야?”
“네.”
“그게 다야?”
윤경주가 잠깐 생각했다.
“선배, 저희 안 해도 되는 거였으면 애초에 시작을 안 했을 것 같아요.”
하람이 웃었다.
웃고 나서 그게 왜 웃긴지를 생각해 봤다.
*
집에 와서 메모장에 적었다.
먼저 낮에 못 적은 것을 적었다.
구로 이 층이 작년에 이백 명이었고 지금 백사십 명이다.
구로에서 백 건 봤다. 15.6초. 끝까지 읽은 건 열아홉 건. 코어랑 다르게 매기면 지표가 깎인다. 다르게 매긴 게 맞았는지는 아무도 안 본다.
한 줄을 더 적었다.
본사가 사람이 더 중요하다고 적은 종이를 보냈다. 안 써도 되는 걸 썼다.
세 번째 줄을 적었다.
여든여섯 번째는 그냥 뒀다.
적고 나서 그 줄을 한참 봤다.
지우지 않았다.