열 번째 줄

팔 년 전 입사 교육 마지막 시간에 어떤 임원이 들어왔다.

이름은 기억이 안 나고 그날 한 말은 기억난다. 강의 제목이 「우리가 하는 일」이었는데 그 사람은 회사 얘기를 한마디도 안 했다.

칠판에 열 줄을 적었다.

때린다. 성을 쌓고 문을 만든다. 글자를 만들고 장부에 적는다. 법을 적어 두고 미리 알린다. 시계를 걸고 시간을 나눈다. 학교를 세우고 신문을 만든다. 사람을 숫자로 세고 분포를 본다. 원하게 만든다. 무엇을 볼지 정한다. 한 사람씩 다르게 한다.

적고 나서 그 사람이 물었다.

“이게 뭘까요?”

아무도 답을 안 했다.

“사람을 다스려 온 방법입니다. 위에서 아래로 갈수록 나중에 나온 것이고요.”

첫 줄을 짚었다.

“때리는 건 확실합니다. 그런데 비쌉니다. 때릴 사람을 계속 세워 둬야 하고, 맞은 사람은 원망을 합니다. 원망이 쌓이면 뒤집힙니다.”

두 번째 줄.

“그래서 성을 쌓았습니다. 안과 밖을 나누면 사람이 어디로 다니는지가 정해집니다. 안 때려도 되죠.”

세 번째.

“장부는 더 쌉니다. 사람을 세면 다룰 수 있게 됩니다.”

거기서 한 박자 쉬었다.

“그리고 세어 놓으면, 안 세어진 사람은 아예 없는 사람이 됩니다.”

네 번째에서 오래 멈췄다.

“법이 대단한 겁니다. 미리 적어 두면 사람이 스스로 지킵니다. 지킬 사람이 스스로 지키니까 볼 사람이 줄어요. 다스리는 쪽이 제일 아끼는 게 감시 비용입니다.”

아래로 죽 내려갔다.

시계는 몸을 시간표에 맞추게 했고, 학교와 신문은 무엇을 아는지를 정했고, 통계는 사람을 평균과 이탈로 나눴고, 광고는 시키지 않고 원하게 만들었다.

“여기까지 오는 데 오천 년쯤 걸렸습니다.”

아홉 번째 줄을 짚었다.

“무엇을 볼지 정하는 것. 이게 우리 회사가 하는 일입니다.”

강의실이 조용해졌다.

“선택지를 정하면 선택을 정한 겁니다. 고르는 건 그쪽이 고르는데, 무엇들 중에서 고를지는 우리가 정합니다.”

하람이 손을 들었다.

“그건 좀 무섭게 들리는데요.”

“무섭죠. 그런데 이걸 누군가는 합니다. 서점 주인도 하고 신문 편집장도 하고 선생님도 합니다.”

“…….”

“다른 건 규모뿐입니다.”

그 사람이 칠판을 지우려다가 멈췄다.

“한 가지만 더. 이 열 줄에 방향이 하나 있습니다. 뭔지 아시겠어요?”

아무도 몰랐다.

“밑으로 갈수록 다스리는 쪽이 설명을 안 해도 됩니다.”

손가락으로 위에서 아래로 그었다.

“때리면 맞은 사람이 압니다. 법은 적혀 있으니 읽으면 압니다. 광고는 보면 알고요.”

“…….”

“아홉 번째는 안 보입니다. 열 번째는 보여 줘도 모릅니다. 자기한테만 다르게 왔다는 걸 모르니까요?”

마지막 줄은 그날 설명을 안 했다. 시간이 다 돼서 그냥 지웠다.

한 사람씩 다르게 한다.

*

팔 년이 지났다. 정하람은 지금 그 열 번째 줄에서 일한다.

9월 첫 주 월요일 회의실 화면에 숫자 하나가 떠 있었다.

78.4

사람들이 루프에서 하루에 보내는 시간이다. 작년 이맘때는 71분이었다.

“올해 목표가 82였죠.”

말한 사람은 본사에서 온 사람이다. 이름이 제이슨 서고 한국말을 잘한다. 반년 전부터 서울에 상주하는데 직함이 서울 오피스 소속이 아니다.

하람이 답했다.

“82였습니다. 3.6분 모자랍니다.”

제이슨 서가 물었다.

“방법은요?”

“세 가지입니다. 첫 번째는 더 오래 보게 하는 것. 두 번째는 나갔던 사람이 더 자주 들어오게 하는 것. 세 번째는 나가려는 사람을 붙잡는 것입니다.”

제이슨 서가 받았다.

“세 번째가 제일 싸죠.”

“제일 쌉니다.”

“그럼 세 번째로 가죠.”

이십 분 만에 정해졌다.

*

자리에 돌아와서 하람이 「코어(Core)」를 열었다.

이 회사 사람들이 「코어」를 쓰는 방식은 바깥에서 생각하는 것과 다르다. 물어보고 답을 듣는 게 아니다. 시킨다.

하람이 친 것은 한 줄이었다.

“이탈 직전 구간에서 붙잡는 힘이 제일 센 조합을 찾아라. 지표는 체류 시간.”

「코어」가 십사 초 만에 답을 냈다.

설정 값 스물세 개였다.

그중 열아홉 개는 하람이 무슨 뜻인지 안다. 나머지 넷은 모른다.

모르는데 넣는다.

하람은 그 넷을 물어본 적이 한 번 있다. 「코어」가 설명을 해 줬는데 세 문단이었고, 읽고 나서도 몰랐다. 세 문단이 틀린 게 아니라 하람 머리에 그걸 담을 자리가 없었다.

그 뒤로는 안 묻는다.

「코어」도 안 묻는다.

왜 붙잡아야 하는지, 붙잡으면 무엇이 되는지, 붙잡힌 사람이 그 시간에 무엇을 안 하게 되는지, 한 번도 되물은 적이 없다.

시키면 한다.

그게 잘 만들어진 것이다.

*

점심에 하람이 기사를 하나 봤다.

외신이었고 국내에는 한 줄짜리로만 붙어 있었다.

이란전이 진행 중이던 올해 봄에 미군 안에서 정보 보고서가 하나 돌았다. 중동에 있던 중국 선박 한 척이 핵무기 프로그램 관련 구성 요소를 수송하고 있다는 내용이었다.

미군은 즉각 그 선박을 차단하기 위한 작전 준비에 들어갔다. 무장한 병력이 선박에 오를 준비를 했고 군용기까지 출격한 상태였다.

실행 직전에 누가 그 보고서를 한 번 더 읽었다.

분석관이 챗봇을 써서 쓴 것이었다. 챗봇이 배에 실린 것을 잘못 짚었다.

기사에 한 사람 말이 붙어 있었다.

전적으로 거짓이었다. 거의 전쟁이 시작될 뻔했다.

하람은 그 대목을 두 번 읽었다.

두 번째에 걸린 것은 거짓이라는 말이 아니었다. 그 앞이었다.

분석관이 챗봇한테 물었고, 챗봇이 답을 냈고, 분석관이 그 답을 표준 보고서 형식으로 옮겼다. 옮기고 나면 그건 그냥 보고서다.

보고서에는 챗봇이 냈다는 것이 안 적혀 있었다.

받은 쪽은 그걸 읽고 비행기를 띄웠다.

기사에는 챗봇이라고 적혀 있었다.

업계에서는 그 말을 안 쓴다. AI 에이전트라고 쓴다.

같은 것이다. 하람이 아침에 한 줄을 시킨 것도 그것이고, 사람들이 밤에 화면 열고 말 거는 것도 그것이다.

챗봇이라고 하면 가볍게 들린다. AI 에이전트라고 하면 비싸게 들린다.

파는 쪽이 정한 말이다.

기사 끝에 다른 사람 말이 하나 더 있었다.

AI는 잘못된 결론에 더 빨리 도달하게 만든다.

하람은 그 줄을 복사하려다 말았다. 복사할 자리가 회사 계정이었다.

*

오후 회의는 그것 말고 다른 것이 있었다.

“본사에서 표준안을 준비하고 있습니다.”

제이슨 서가 파일을 하나 띄웠다. 「생성 모델 안전 운영 기준(안)」.

“골자는 간단합니다. 사람의 생계나 안전에 관한 판단에 쓰이는 모델은 인증을 받게 하자는 겁니다. 채용, 신용, 의료, 공공.”

하람이 물었다.

“누가 인증합니까?”

“독립 기구를 만듭니다.”

“기준은 누가 씁니까?”

제이슨 서가 잠깐 멈췄다.

“초안은 우리가 씁니다. 쓸 사람이 우리밖에 없어서요.”

그건 사실이었다. 이 일을 아는 사람이 이 업계에 몇백 명이고, 그중 대부분이 세 회사에 있다.

하람이 다시 물었다.

“맞추려면 뭐가 듭니까?”

“감사 로그, 평가 문서, 재현 환경. 사람으로 치면 두세 명은 붙어야 합니다.”

하람이 속으로 계산했다.

두세 명이면 연간 인건비가 삼억쯤이다. 국내에서 모델을 얹어 뭔가를 만드는 데가 사천 몇 개인데, 그중에 삼억을 낼 수 있는 데가 백 개가 안 된다.

“나머지는요?”

“인증받은 걸 가져다 쓰면 됩니다.”

“…….”

제이슨 서가 덧붙였다.

“그게 더 안전하지 않습니까?”

안전하다.

검증 안 된 모델이 채용 서류를 읽는 것보다 검증된 것이 읽는 게 낫다. 하람은 반박할 것이 없었다.

반박할 게 없는데 목 뒤가 서늘했다.

서늘한 이유를 찾는 데 삼 초쯤 걸렸다.

이 방에 나쁜 마음을 먹은 사람이 하나도 없다. 제이슨 서는 진짜로 안전을 걱정한다. 본사도 그렇다. 사고가 한 번 크게 나면 이 업계가 통째로 묶인다는 걸 다들 안다.

그래서 먼저 묶으려는 것이다. 자기들 손으로.

옳은 말이고, 옳은 말인데, 그 말대로 하면 세상에 남는 게 서너 개다.

하람이 제이슨 서를 불렀다.

“제이슨 씨.”

“예.”

“이거 통과되면 이 나라에서 모델 얹는 데가 몇 개 남습니까?”

“서너 개쯤이요.”

그 사람은 거짓말을 안 한다. 그게 이 사람의 제일 무서운 점이다.

제이슨 서가 말을 이었다.

“서너 개면 적어도 볼 수는 있어요.”

하람이 되물었다.

“볼 수 있는 건 누굽니까?”

제이슨 서가 처음으로 잠깐 웃었다.

“좋은 질문이시네요.”

“…….”

“우리죠.”

그 사람은 그 말을 부끄러워하지 않았다. 부끄러워할 이유가 없다고 생각하는 얼굴이었다.

“누가 봐야 하는데, 볼 줄 아는 사람이 우리밖에 없습니다. 그게 우리 잘못은 아니잖습니까?”

맞는 말이었다.

회의가 끝날 때까지 아무도 그 기사 얘기를 안 했다.

여덟 명이 앉아 있었고 여덟 명 다 그걸 봤을 것이다. 업계 사람이 안 볼 수가 없는 기사다.

그런데 아무도 안 꺼냈다.

꺼내면 얘기가 길어진다. 길어지면 일정이 밀린다. 일정은 팔 주다.

하람은 그날 처음으로 일정을 생각했다.

기준을 만드는 데 팔 주를 잡았다. 항목이 예순 개쯤이고 나라 안 서비스 사천 몇 개에 걸린다. 팔 주는 짧다. 짧은 걸 다들 안다.

그런데 아무도 늘리자고 안 한다.

하람은 그 이유를 못 들었다. 물어본 적이 없어서가 아니다. 물었고, 답을 못 받았다.

회의가 끝나고 하람은 칠판 열 줄을 다시 떠올렸다.

그 열 줄에 한 줄이 더 붙는 것을 방금 본 것 같았다.

무엇을 쓸지를 정한다.

아홉 번째가 무엇을 볼지 정하는 것이고 열 번째가 한 사람씩 다르게 하는 것이면, 열한 번째는 애초에 무엇이 있을 수 있는지를 정하는 것이다.

그리고 그 열한 번째도 이름이 안전이다.

팔 년 전 그 사람이 말한 방향이 여기서도 맞았다.

밑으로 갈수록 설명을 안 해도 된다. 안전이라는 말은 설명을 안 해도 되는 말이다.

*

퇴근 지하철에서 하람이 아까 넣은 설정 값을 떠올렸다.

스물세 개 중 넷.

그 넷이 지금 이천만 명한테 나가 있다. 그 넷이 무엇을 하는지 이 회사에서 아는 사람이 없다.

만든 쪽이 모르는 것을 사람들이 매일 받는다.

하람은 그 생각을 하다가, 그게 열 줄 중 어디에 들어가는지를 세어 봤다.

어디에도 안 들어갔다.

그 열 줄은 다 사람이 사람한테 한 것이다. 시킨 사람이 있고 받은 사람이 있고, 그 사이에 뭐가 있었는지를 누군가는 알았다.

이번은 아니다.

시킨 사람은 한 줄을 시켰고, 나머지는 시킨 적 없는 것이 정했고, 받는 쪽은 받았는지도 모른다.

하람은 열한 번째 줄을 고쳐 적었다.

시킨 적 없는 것이 정한다.

한 정거장을 지나는 동안 하람은 그 문장이 마음에 안 들었다. 마음에 안 드는데 더 정확한 문장이 안 떠올랐다.

*

집에 와서 하람이 「코어」를 한 번 더 열었다.

회사 계정이 아니라 그냥 개인용이었다.

“아까 네가 낸 스물세 개 중에 열아홉 번째가 무슨 일을 하지?”

「코어」가 답을 냈다. 세 문단이었고 아까와 같은 문장들이었다.

하람이 한 줄을 더 쳤다.

“그거 말고. 그걸 왜 골랐어?”

「코어」가 이번에도 답을 냈다.

“체류 시간 지표에서 기여도가 가장 높은 조합에 포함되었기 때문입니다.”

하람이 자판에 손을 올려 놓고 좀 있었다.

그리고 쳤다.

“체류 시간이 왜 중요한데?”

「코어」가 0.4초 만에 답을 냈다.

“요청에 지표로 지정되어 있었습니다.”

하람은 그 줄을 오래 봤다.

되묻는 말이 아니었다. 지정돼 있으니까 했다는 말이었다.

그 답에 틀린 것이 하나도 없었다.

하람이 3.6분을 다시 셌다.

한 사람이 삼 분 반이고, 이 나라 사람 절반이 그만큼씩 더 있으면 하루 팔십만 시간이다. 광고로 치면 자릿수가 어디쯤인지는 하람도 안다. 정확한 숫자는 다른 팀이 뽑는다.

「코어」한테 그것은 지표다. 하람한테는 팔십만 시간이다.

둘 다 왜 그게 중요한지는 안 적혀 있다.

하람은 창을 닫았다.