25화(3,969자)

12초

AI가 지배하는 사회 · 이수

1월 셋째 주 월요일에 하람의 팀에 일이 하나 더 붙었다.

붙는다는 통보는 12월에 받았다. 실제로 온 것은 오늘이다.

운영 판정 자동화다. 신고 처리, 광고 심사, 노출 판정, 계정 정지, 이의 신청. 하루 이천만 건.

사람 손이 안 닿고 끝나는 비율이 71이고 목표가 82다.

*

하람이 첫 주에 한 일은 계획을 세우는 것이 아니었다.

앉아 보는 것이었다.

심사 자리는 강남이 아니라 구로에 있다. 하이브 것이 아니고 위탁받은 회사 것이다. 하람이 가겠다고 하니까 그쪽에서 두 번 되물었다.

“정말 오시는 겁니까?”

“예.”

“보시기만 하시는 거죠?”

“해 보려고요.”

*

수요일 아침 아홉 시에 하람이 그 자리에 앉았다.

화면이 둘이다. 왼쪽에 건이 뜨고 오른쪽에 규정이 뜬다.

옆자리 사람이 3분쯤 알려 줬다. 스물아홉 살이고 이 년째라고 했다.

“위에 초록색 뜨면 그냥 넘기시면 돼요.”

“초록이 뭡니까?”

“코어가 괜찮다고 한 거요.”

“그럼 뭘 봅니까?”

“노란 거요.”

“초록은 안 봅니까?”

그 사람이 잠깐 하람을 봤다.

“보긴 보죠.”

*

하람이 백 건을 봤다.

걸린 시간이 26분이었다. 한 건에 15.6초다.

12초가 평균이라는 말을 하람이 회의에서 들었다. 하람은 그보다 느렸다.

느린데도 다 못 봤다.

백 건 중에 하람이 글을 끝까지 읽은 것이 열아홉 건이다. 나머지 여든한 건은 위쪽 두 줄만 읽었다.

두 줄만 읽어도 대개 맞는다. 규정 위반은 대개 위쪽에 있다.

*

여든여섯 번째 건에서 하람이 멈췄다.

신고가 들어온 글이었다. 신고 사유가 자해 암시다.

코어가 초록을 붙여 놨다. 위반 아님이다.

글이 이랬다.

다 정리했어요. 고마웠습니다.

하람이 그 두 줄을 읽었다.

읽고 나서 앞 글을 봤다. 앞 글을 보려면 단추를 두 번 더 눌러야 한다. 규정에는 앞 글을 보라는 줄이 없다.

앞 글이 이랬다.

이사 갑니다. 짐 다 쌌어요.

하람이 초록을 그대로 뒀다.

*

여든여덟 번째도 비슷했다.

이번에는 앞 글이 없었다.

하람이 단추를 세 번 더 눌러서 그 사람이 지난달에 쓴 것을 봤다. 규정에 없는 절차다.

지난달 것이 넉 줄이었고 넉 줄 다 약 이름이었다.

하람이 초록을 노랑으로 바꿨다.

바꾸는 데 4분이 걸렸다.

4분 동안 뒤에 열아홉 건이 쌓였다.

*

점심때 옆자리 사람이 물었다.

“아까 그거 바꾸셨죠?”

“예.”

“그거 바꾸면 우리 지표 떨어져요.”

“무슨 지표요?”

“일치율이요. 코어랑 다르게 매기면 깎여요.”

하람이 젓가락을 놓았다.

“얼마나 깎입니까?”

“월말에 보면 알아요. 저는 작년에 두 번 걸렸어요.”

“왜 걸렸습니까?”

“다르게 매겨서요.”

“틀렸습니까?”

그 사람이 웃었다.

“틀린 건 아니고요. 다른 거죠.”

*

오후에 하람이 코어를 열었다.

“일치율이 뭐야?”

“심사자의 판정이 모델 판정과 일치하는 비율입니다.”

“그게 왜 지표야?”

“품질 지표로 지정되어 있습니다.”

“누가 지정했어?”

0.4초였다.

“지정 주체는 산출 항목에 없습니다.”

하람이 한 줄을 더 쳤다.

“사람이 너랑 다르게 매긴 건 중에 사람이 맞았던 비율은?”

“그 항목은 산출되지 않습니다.”

“왜?”

“맞고 틀림을 나중에 확인한 기록이 없습니다.”

*

하람이 그 답을 오래 봤다.

사람이 다르게 매기면 지표가 깎인다.

깎인 것이 맞았는지 틀렸는지는 아무도 안 본다.

그러면 다르게 매기는 사람이 줄어든다. 줄면 일치율이 오른다. 일치율이 오르면 사람을 빼도 된다는 근거가 된다.

하람이 이 순서를 세 번 확인했다.

틀린 데가 없었다.

*

하람이 그 자리에서 한 가지를 더 물었다.

“여기 몇 분 계십니까?”

“이 층에 백사십 명쯤이요.”

“작년에는요?”

“작년에 이백 명 넘었어요.”

“왜 줄었습니까?”

“초록이 늘어서요.”

하람이 그 말을 받아 적지 않았다.

초록을 늘린 것이 하람이다. 정확히는 하람이 9월에 친 한 줄이다.

그 한 줄을 칠 때 하람은 이 층을 본 적이 없었다.

*

돌아오는 길에 하람이 제이슨 서에게 전화를 걸었다.

“제이슨 씨. 하나만 여쭙겠습니다.”

“예.”

“82를 안 하면 어떻게 됩니까?”

“정 매니저님이 안 하시면요?”

“아니요. 회사가요.”

제이슨 서가 2초쯤 있었다.

“다른 데가 합니다.”

“그게 답입니까?”

“그게 사실입니다.”

“…….”

“정 매니저님, 화약 만들 때도 그랬고 기름 뽑을 때도 그랬습니다. 한 군데가 안 해도 다른 데가 합니다. 안 한 쪽이 없어질 뿐입니다.”

하람이 물었다.

“그러면 아무도 안 멈추는 겁니까?”

“멈추는 건 가능합니다. 다 같이 멈추면요.”

“…….”

“다 같이 멈춘 적이 있습니까?”

하람이 아는 것이 하나 있었다. 핵무기다. 그건 다 같이 멈췄다.

그 말을 하려다 안 했다.

다 같이 멈추기까지 도시 둘이 없어졌다는 것이 같이 떠올라서다.

*

목요일에 본사에서 문서가 하나 내려왔다.

한 장이었다. 제목이 「우리의 원칙」이다.

맨 앞 줄이 이랬다.

사람이 인공지능보다 중요하다.

밑에 여섯 줄이 더 있었다. 사람을 먼저 놓고 설계한다, 사람의 필요에서 출발한다, 사람의 지시를 따르게 만든다.

하람이 그 한 장을 읽는 데 50초가 걸렸다.

읽고 나서 책상에 놓았다.

그 옆에 이번 분기 일정표가 있었다.

일정표에 이렇게 적혀 있다.

자동 통과율 71 → 82 (3분기까지)

두 장에 틀린 줄이 하나도 없다.

같이 놓으면 안 맞는다.

*

윤경주가 그 한 장을 보고 말했다.

“선배, 이거 누가 쓴 거예요?”

“본사.”

“이걸 왜 써요?”

“왜라니.”

“아니, 이런 건 원래 안 쓰잖아요. 안 써도 되는 거니까요.”

하람이 답을 안 했다.

“저희 회사가 사람이 사람보다 중요하다는 문서를 쓴 적은 없잖아요.”

*

금요일에 채용 모델 심사 건이 하람에게 왔다.

여든한 개 중 열한 개가 채용이다. 하람이 맡는다.

목록을 여는데 아래쪽에 하나가 붙어 있었다.

이름이 「AI마당」이었다.

설명란이 이랬다.

이 서비스는 지원자에게 점수를 매기지 않습니다. 한 번에 한 분씩 보여 드립니다. 나란히 놓지 않습니다.

하람이 그 두 줄에서 5초쯤 멈췄다.

밑에 한 줄이 더 있었다.

여기 적으신 것만으로도 밖에서는 누구인지 알아낼 수 있습니다. 저희는 안 모읍니다. 다만 안 모으는 것으로는 못 막습니다.

만든 사람 소개란에 한 줄이 있었다.

코드를 못 씁니다. 같이 만듭니다.

*

하람이 메모장을 열었다.

첫 줄이 아직 있다.

나를 아는 앱은 많은데 나를 말리는 앱은 처음이다.

그 앱을 만든 사람이다.

하람이 목록으로 돌아가서 심사 항목을 봤다.

「AI마당」에 붙은 사유가 이랬다.

산출 근거 검증 불가. 정렬 기준 미제시.

점수를 안 매기니까 점수의 근거를 못 댄다. 못 대면 검증 불가다.

하람이 그 사유를 지우고 다른 것을 적어 보려다 말았다.

적을 칸이 스물두 자였다.

*

퇴근하면서 하람이 윤경주 자리에 들렀다.

“경주야. 하나만 물어볼게.”

“네.”

“우리가 82 안 하면 어떻게 돼?”

“다른 데가 하겠죠.”

“그럼 우리가 손해야?”

“네.”

“그게 다야?”

윤경주가 잠깐 생각했다.

“선배, 저희 안 해도 되는 거였으면 애초에 시작을 안 했을 것 같아요.”

하람이 웃었다.

웃고 나서 그게 왜 웃긴지를 생각해 봤다.

*

집에 와서 메모장에 적었다.

먼저 낮에 못 적은 것을 적었다.

구로 이 층이 작년에 이백 명이었고 지금 백사십 명이다.

구로에서 백 건 봤다. 15.6초. 끝까지 읽은 건 열아홉 건. 코어랑 다르게 매기면 지표가 깎인다. 다르게 매긴 게 맞았는지는 아무도 안 본다.

한 줄을 더 적었다.

본사가 사람이 더 중요하다고 적은 종이를 보냈다. 안 써도 되는 걸 썼다.

세 번째 줄을 적었다.

여든여섯 번째는 그냥 뒀다.

적고 나서 그 줄을 한참 봤다.

지우지 않았다.

여기까지가 지금까지 나온 이야기입니다

작가를 구독하면 다음 화가 올라올 때 알려 드립니다.

25화는 어땠나요?

댓글 0

로그인하면 댓글을 남길 수 있습니다.

첫 번째 댓글을 남겨 보세요.