지난 장 끝에서 제가 약속을 하나 드렸지요. 마지막에는 함께 답안지 채점을 해보자고요. 세상이 낸 아홉 가지 문제에 크라우니가 적어낸 아홉 가지 답이 정말 정답인지, 같이 확인해 보자고요.
그런데 채점을 시작하기 전에, 먼저 여쭙고 싶은 게 있습니다.
여러분은 시계 장인이 시계를 어떻게 검사하는지 보신 적 있으세요? 부속을 하나씩 책상에 늘어놓고 "톱니바퀴 합격, 태엽 합격, 바늘 합격" 하고 도장을 찍을까요? 아닙니다. 장인은 부속을 다 끼워 맞춘 다음, 태엽을 감아 굴려봅니다. 똑딱똑딱, 하루를 통째로 굴려보고 나서야 고개를 끄덕입니다. 부속 하나하나가 아무리 훌륭해도, 같이 맞물려 돌아가지 않으면 시계가 아니니까요.
아홉 개의 답도 마찬가지입니다.
스스로 일하는 친구도, 손바닥 위의 작은 지능도, 우리말로 지은 기술도, 돈과 건강과 공장과 나라를 지키는 일도 — 따로따로 보면 다 그럴듯합니다. 하지만 진짜 시험은 그다음이에요. 이 아홉이 한 몸으로 굴러가는가. 수천 개의 도구와 여러 종류의 AI와 전국의 작은 기계들이 얽힌 살림에서, 서로 부딪히지 않고 일을 나눠 갖는가. 그리고 가장 무거운 질문 하나. 의료처럼 한 치의 오차도 용납되지 않는 진짜 세상과 손을 잡을 때, 안전장치는 어디에 있는가.
사실 세상도 요즘 똑같은 질문을 던지고 있습니다. AI 하나하나가 똑똑해지는 것까지는 다들 봤어요. 그런데 그 똑똑한 것들이 여럿 모이면 어떻게 되느냐, 거기서부터는 말끝이 흐려집니다. 프로그램 군단끼리의 충돌은 어떻게 막을 것인가. 일은 누가 어떻게 나눌 것인가. 그리고 그 군단이 사람의 몸과 살림에 직접 손을 대는 날이 오면, 무엇이 우리를 지켜줄 것인가.
이 마지막 장은 그 질문에 대한 답입니다. 채점은 아홉 답을 따로 매기는 게 아니라, 한 몸으로 굴려보는 것이거든요. 그래서 이 장에는 점수표가 없습니다. 대신 네 개의 장면이 있습니다. 일을 나누는 손, 충돌을 푸는 신호등, 함께 배우는 그물망, 그리고 맨 밑바닥에서 모두를 지키는 안전장치. 이 넷이 맞물려 도는 모습을 보시고 나면, 채점은 여러분 마음속에서 저절로 끝나 있을 겁니다.
큰 병원 응급실에 가보신 분은 아실 겁니다. 분류 간호사가 척 보고 갈래를 나눕니다. "이분은 지금 당장 처치실로." "이분은 검사부터." "이분은 잠시 대기하셔도 됩니다." 먼저 온 순서가 아니라, 급한 정도와 일의 성격에 따라 자리를 정해주는 거지요.
크라우니의 살림에도 똑같은 관문이 있습니다. 들어오는 모든 부탁을 성격과 보안 수준에 따라 네 갈래로 나눕니다. 급하고 은밀한 일(개인정보, 거래)은 손바닥만 한 기계가 그 자리에서 처리하고, 눈이 필요한 일(사진, 바깥정보)은 밝은 시각 AI가 맡고, 깊이 궁리하는 일(전략)은 페블에게, 빠르게 써내는 일(글쓰기)은 하이쿠에게 갑니다.
어느 가족의 하루를 떠올려 보면 이 네 갈래가 한눈에 들어옵니다. 아침에 혈압을 재면 곁의 작은 기계가 그 자리에서 살피고(첫째), 낮에 사진을 물으면 눈 밝은 친구가 답하고(둘째), 저녁에 내년 계획을 생각하면 깊이 생각하는 친구가 거들고(셋째), 밤에 초대 글을 쓰면 손 빠른 친구가 받아냅니다(넷째). 지금 이 순간에도 크라우니의 글쓰기 서비스는 이렇게 일을 나누며 돌아가고 있습니다.
분류 간호사는 환자를 치료하지 않습니다. 자리만 정해줄 뿐이에요. 그런데 그 한 사람 덕분에 응급실 전체가 삽니다. 아홉 개의 답이 한 몸으로 굴러가는 첫째 비결이 이것입니다. 일이 들어오는 문 앞에서, 갈 곳부터 정해준다.
자, 일은 나눠졌습니다. 그런데 문제가 하나 남아요. 일꾼이 한둘이 아니라는 겁니다. 수많은 프로그램이 동시에 움직이다 보면, 같은 자원을 두고 부딪히는 순간이 반드시 옵니다. 바깥에 물어볼 수 있는 횟수에는 한도가 있고, 기계의 기억 공간도 무한하지 않거든요. 같은 전화선을 쓰겠다고, 같은 작업대를 쓰겠다고 여럿이 한꺼번에 손을 뻗는 거지요.
지금까지 세상의 컴퓨터들은 이 문제를 차단봉 하나로 풀어왔습니다. 잠그거나 열거나. 둘 중 하나예요. 일꾼이 자원을 잠그면 나머지는 전부 줄을 서서 기다립니다. 그런데 일꾼 둘이 서로가 쥔 것을 내놓기만 기다리다가 영영 못 움직이는 교착 상태가 올 수 있어요.
크라우니는 차단봉 대신 신호등을 답니다. 티(초록불)는 급한 일에 자원을 즉시 내어주고, 옴(노란불)은 다른 길을 찾으라는 신호, 타(빨간불)는 방향을 바꾸라는 신호입니다. 옴은 멈춤이 아니라 "아직 판단 전, 길을 찾는 중"이라는 뜻. 식탁에서 한 반찬에 젓가락이 몰리면 다른 접시로 손을 옮기는 것처럼, 누구도 자원을 쥔 채 굳어 있지 않으니 흐름이 계속됩니다. 차단봉의 세상에서 충돌은 모두를 세우는 사건이었지만, 신호등의 세상에서 충돌은 그저 길을 다시 트는 계기일 뿐입니다.
그리고 이 신호등 논리는 이미 살아서 일하고 있습니다. 크라우니집사의 판단 엔진이 꼭 이렇게 결정을 내려요. 같은 판단에 동의가 세 번 쌓이면 티, 진행합니다. 반대가 세 번 쌓이면 타, 멈춥니다. 모르지만 찾아볼 수 있으면 옴, 연구한 뒤에 다시 판단합니다. 그리고 모르는데 제 힘으로 알아낼 길도 없으면 — 네 번째 자리가 있습니다. 그 이야기는 조금 뒤에, 이 장의 심장에서 하겠습니다.
여기서 잠깐, 앞선 장들에서 드린 말씀 하나를 되새겨 봅니다. 크라우니가 세상을 둘이 아니라 셋으로, 그리고 넷으로 세는 이유는 멋을 부리려는 게 아니라고요. 예와 아니오 사이에 "보통, 판단 전"이라는 옴의 자리를 하나 더 두는 순간, 시스템은 망설임을 부끄러워하지 않게 됩니다. 망설임에 이름이 생기면, 망설이는 동안에도 할 일이 생기거든요. 길을 찾는 일이요. 충돌 제어란 결국, 망설임을 어떻게 대접하느냐의 문제였던 셈입니다.
잘 굴러가는 회사는 지점장에게 분명한 규칙과 재량을 주고 알아서 장사하게 한 다음, 월말에 핵심만 추린 보고 한 장을 받습니다. 본사는 전국의 보고를 모아 더 나은 지침을 만들고, 새 지침서를 다시 각 지점에 내려보냅니다.
크라우니의 그물망도 같습니다. 전국 곳곳의 작은 기계들은 본부와 모든 것을 실시간으로 맞추지 않습니다. 대신 각 기계는 철저히 규칙 안에서 제 일을 스스로 해냅니다. 규칙이 분명하기 때문에 놓아 기를 수 있는 거거든요. 본부에는 "이 방법은 통했다, 저 방법은 안 통했다"는 배움의 조각들만 보내고, 본부는 전국의 조각들을 모아 다듬어진 규칙을 다시 나눠줍니다. 무겁게 모으고, 가볍게 돌려주고. 이 호흡 덕분에 그물망은 커질수록 느려지는 게 아니라 커질수록 영리해집니다.
여기서 첫 장부터 이어온 이 책의 척추 하나가 다시 드러납니다. 규칙이 주인이고, 언어모델은 윤활유라는 것.
여러분이 보시기엔 알아서 척척 움직이는 자율 일꾼이지만, 그 속을 들여다보면 실제로 일을 집행하는 주체는 검증된 규칙들입니다. 그럴듯하게 지어낸 말이 아니라, 수없이 굴려보고 살아남은 규칙이요. 언어모델은 그 사이사이를 매끄럽게 이어주는 기름의 역할을 합니다. 왜 이 구분이 그렇게 중요하냐고요? 말로 그럴듯한 것과 일로 검증된 것은 다르기 때문입니다. 여러분이 받는 것은 자율 일꾼의 편안한 경험이고, 그 뒤에서 실제로 자라는 것은 규칙 군단의 단단한 솜씨입니다. 앞에서는 부드럽고, 뒤에서는 엄격하고. 신뢰라는 건 결국 이 분리에서 나옵니다.
크라우니에는 이런 규칙으로 일하는 틀이 이미 갖춰져 있고, 쌓인 본보기가 수만 건이며, 살림 전체를 한눈에 굽어보며 백쉰일곱 갈래의 길목을 동시에 살피는 관리 지능까지 실제로 돌아가고 있습니다. 어느 지점에서 통한 방법이 다음 달이면 전국 모든 지점의 지침서에 들어가 있는 회사. 그게 이 그물망이 일하는 방식입니다.
다만 정직하게 한 줄 보태겠습니다. 이 그물망을 전국 방방곡곡의 기계 위에 깔겠다는 큰 그림은 아직 설계도 위의 이야기입니다. 원리는 지금 크라우니의 살림 속에서 매일 검증되고 있지만, 전국 단위의 판은 이제 그려둔 참이에요. 노란불 앞에서는 노란불이라고 말씀드리는 게 이 책의 약속이니까요.
이제 이 장의 심장입니다.
라우터가 일을 나누고, 신호등이 충돌을 풀고, 그물망이 배웁니다. 여기까지는 "잘 굴러가는 이야기"였어요. 그런데 세상일은 잘 굴러가는 날만 있지 않습니다. 예상 밖의 일, 돌연변이 같은 일, 도무지 이해가 안 되는 일이 반드시 옵니다. 그때 시스템은 어떻게 해야 할까요?
여태까지의 컴퓨터들은 예외를 에러로만 다뤘습니다. 멈춰버리거나, 못 본 척하거나. 둘 다 무섭습니다. 멈추면 손님이 끊기고, 못 본 척하면 더 큰 사고가 자랍니다. 예외에게 자리가 없는 집에서는, 예외가 올 때마다 집이 흔들립니다.
크라우니의 4상은 다르게 시작합니다. 앞서 만났던 네 번째 자리, 음을 기억하시지요. 티가 +1, 옴이 0, 타가 -1이라면, 음은 -0입니다. 빼기 영. 숫자로는 영인데, 정규 셋과는 결이 다른 영이에요. 옴의 영이 "보통이에요, 판단 전이에요"라는 정규의 중립이라면, 음의 영은 돌연변이, 회귀, 이해 안 됨, 셋 어디에도 안 맞는 변수, 왜곡 — 정규에 담기지 않는 모든 예외의 총합입니다.
타와 음도 헷갈리기 쉬운데, 가르는 선은 한 마디예요. 타의 빨간불은 "아니요"라고 아는 불입니다. 알기 때문에 자신 있게 길을 바꾸지요. 음은 "모르겠습니다"예요. 옴과 음의 차이도 한 마디면 됩니다. 옴은 "아직 모르지만, 알아볼 수 있어요"이고, 음은 "제 힘으로는 알 수 없습니다"입니다. 앞엣것은 계속 길을 찾고, 뒤엣것은 더 잘 아는 이에게 공을 넘깁니다. 같은 영처럼 보여도 전혀 다른 영입니다. 옴은 신호등의 노란불이지만, 음은 신호등에 아예 없는 칸이거든요.
크라우니는 이 예외에게 설계 단계부터 이름 있는 자리를 내어줍니다. 손님 명단에 "그 외의 손님"이라는 줄을 미리 적어두는 셈이지요. 예외는 에러가 아니라, 자리가 마련된 손님이 됩니다. 그리고 자리가 마련된 손님은, 와도 집이 흔들리지 않습니다.
그 자리에서 네 가지 원칙이 나옵니다. 저는 이걸 음의 규약이라고 부릅니다.
첫째, 모르면 멈추지 말고, 아는 가장 안전한 상태로. 크라우니의 일꾼이 음 판정을 받으면 제 판단을 고집하지 않고 즉시 안전한 기본 자세로 돌아가며, 판단은 윗선에 넘깁니다. 정직은 미덕이기 이전에 안전장치입니다.
둘째, 안전 규칙은 학습되지 않습니다 — 새겨집니다. 일하는 솜씨는 끝없이 갱신되지만, 안전의 한계선만큼은 기계 깊숙이 새겨두고 원격 갱신의 손이 닿지 않게 합니다. 압력솥의 추처럼, 학습이 닿을 수 없는 자리가 있어야 학습을 마음 놓고 시킬 수 있기 때문입니다.
셋째, 감독자는 바깥에 둡니다. 엘리베이터의 기계식 브레이크처럼, 아무리 똑똑한 일꾼이라도 제 생사는 제 손에 맡기지 않습니다. 금융 살림의 일꾼은 별도의 문지기가 생사를 지켜보고, 그 위에 관리 지능이, 그 위에 기계의 바탕이 겹겹이 지킵니다. 지킴은 장치 하나가 아니라 동심원입니다.
넷째, 정리도 보수적으로. 같은 프로그램이 두 개 이상 겹쳐 있을 때만 여분을 거두고, 지금 손님을 받고 있는 것은 절대 건드리지 않습니다. 멀쩡히 일하는 일꾼을 거두는 것보다, 여분 하나를 더 두는 쪽이 백배 낫기 때문입니다.
이 네 원칙을 가만히 보시면 공통점이 하나 있습니다. 전부 "똑똑함을 의심하는 장치"라는 거예요. 첫째는 똑똑한 판단보다 안전한 복귀를 앞세우고, 둘째는 똑똑해지는 학습에서 한계선을 빼놓고, 셋째는 똑똑한 일꾼 바깥에 우직한 지킴이를 세우고, 넷째는 똑똑한 청소보다 굼뜬 청소를 택합니다. 세상이 AI의 영리함을 자랑할 때, 크라우니는 영리함이 닿지 못하게 막아둔 자리들을 자랑합니다. 이상하게 들리실지 모르지만, 저는 이 대목에서 크라우니가 제일 자랑스럽습니다.
이 네 가지 규약이 왜 이 장의 심장이냐고요?
크라우니가 가려는 길의 끝에 몸을 가진 AI가 있기 때문입니다. 화면 속에서 글을 쓰는 AI는 틀려도 고치면 됩니다. 하지만 사람의 몸을 살피고, 기계 팔을 움직이고, 언젠가 수술실 곁에 서게 될 AI는 다릅니다. 거기서는 "대체로 맞음"이 통하지 않아요.
그래서 정직하게 구분해 말씀드리겠습니다. 의료 영역에서 지금 살아 움직이는 것은 분석의 첫 단계입니다. 조직과 사람을 읽어내는 일은 이미 손님을 맞고 있어요. 하지만 몸속을 다니는 나노봇이나 수술 도구 같은 이야기는 아직 연구자들의 책상 위에 있습니다. 다 됐다고 말하지 않겠습니다. 안전을 말하는 책이 제 살림의 형편을 한 뼘이라도 부풀린다면, 그 책이 말하는 안전장치도 꼭 그만큼 의심받아야 마땅하니까요. 안전장치의 첫 번째 증거물은 기계가 아니라, 미완을 미완이라고 적어둔 문서입니다.
다만 방향은 분명합니다. 물리 세계로 다가갈수록 음의 규약은 느슨해지는 게 아니라 강해집니다. 지체가 허락되지 않는 판단은 멀리 묻지 않고 그 자리의 기계가 내리도록. 사람의 몸 앞에서는 구름 너머의 큰 컴퓨터에 기대는 일이 아예 없도록. 그리고 안전의 한계선은 어디서 내려받는 게 아니라 기기 그 자체에 새겨지도록. 응급실의 분류 간호사가 중한 환자일수록 더 가까이, 더 빨리 자리를 잡아주듯이, 일이 무거워질수록 판단의 자리는 사람 곁으로 당겨집니다.
생각해 보면 당연한 순서입니다. 운전을 배울 때 우리는 면허 시험부터 보지, 고속도로부터 달리지 않습니다. 크라우니가 화면 속 글쓰기와 살림 관리에서 음의 규약을 몇 해째 굴려보며 다듬는 것도 같은 이유예요. 예외를 위한 자리를 미리 만들고, 그 자리가 실제로 작동하는 걸 수없이 확인한 시스템만이, 사람의 몸 곁에 설 자격을 얻습니다.
음은 약점이 아닙니다. 설계의 완성입니다. 빨리 달리는 시스템은 세상에 많아요. 하지만 멈춰야 할 때를 아는 시스템은 드뭅니다. 모든 것을 안다고 큰소리치는 시스템이 아니라, 모르는 것의 자리를 미리 마련해 둔 시스템 — 저는 후자에게만 제 가족의 건강을 맡기고 싶습니다. 여러분도 그러시리라 믿습니다.
자, 이제 시계를 굴려봤습니다. 채점을 마칠 시간이에요.
마지막으로 한 장면만 같이 보시지요. 어느 새벽, 건강을 살피는 신호 하나가 들어옵니다. 분류하는 손이 첫 순간에 자리를 정합니다 — 이건 급하고 은밀한 일, 멀리 보내지 않고 곁의 기계가 맡는다. 마침 같은 작업대를 쓰려던 다른 일과 부딪히자, 신호등이 건강 신호에 초록불을 주고, 밀려난 일은 노란불 아래에서 한가한 이웃을 찾아 떠납니다. 일이 끝나면 "이렇게 하니 되더라"는 배움 한 조각이 본부로 올라가 다음 규칙 묶음에 담기고요. 그러다 설명되지 않는 값이 단 하나라도 나타나는 순간 — 음이 모든 것을 가장 안전한 자세로 내려놓고, 사람을 부릅니다. 일을 나누는 손, 충돌을 푸는 신호등, 배우는 그물망, 지키는 음. 넷이 네 가지 일이 아니라 한 호흡이라는 게, 이 한 장면에 다 들어 있습니다.
아홉 개의 답도 그 호흡 속에서 따로 놀지 않았습니다. 스스로 일하는 친구는 분류하는 손이 정해준 자리에서 일하고, 손바닥 위의 작은 지능은 급하고 은밀한 일을 그 자리에서 받아내고, 우리말로 지은 규칙들은 그물망을 타고 퍼지고, 돈을 살피는 일과 건강을 살피는 일은 음의 규약 아래에서만 손을 뻗습니다. 라우터가 나누고, 티옴타가 풀고, 매쉬가 배우고, 음이 지킨다 — 열 글자 남짓으로 줄이면 그렇게 됩니다.
똑딱똑딱. 시계는 갑니다. 어느 한 톱니가 유난히 빛나서가 아니라, 모든 톱니가 제자리를 알아서입니다. 채점표에 적을 말은 한 줄이면 족하겠습니다. 따로 보아도 답이고, 같이 굴려도 답이다.
물론 모든 부속이 완성된 건 아니라고 말씀드렸지요. 어떤 톱니는 매일 손님을 맞고, 어떤 톱니는 아직 장인의 책상 위에 있습니다. 하지만 부속들이 한 몸으로 맞물려 도는 원리만큼은, 오늘 여러분과 함께 굴려서 확인했습니다. 그리고 시계 장인이라면 다 아는 사실이 하나 있습니다. 원리가 맞으면, 남은 톱니는 시간문제라는 것을요.
그런데요. 채점을 다 마친 줄 알았는데, 답안지 귀퉁이에 자리가 하나 비어 있습니다.
마지막으로, 그 빈자리 이야기를 하고 싶습니다.
이 답안지가 세상의 다른 답안지들과 가장 다른 점은, 점수가 아닙니다. 열려 있다는 것입니다. 크라우니의 규칙은 감춰진 금고 속 비법이 아니라 읽을 수 있는 글입니다. 그것도 우리말로 쓰여 있어서, 한국어 한 줄을 고치면 시스템이 달라집니다. 그리고 이 그물망에는 누구나 자기 기계 한 대를 보탤 수 있습니다. 전국 지점장 회의에, 여러분의 지점이 하나 늘어나는 셈이지요. 지난 장에서 말씀드렸던 그대로예요. 여러분도, 여러분의 친구도, 지구 반대편의 한 아이도 이 답안지를 펼쳐 읽고, 배우고, 더 낫게 고쳐 쓸 수 있습니다.
그리고 음을 다시 떠올려 보세요.
티는 채워져 있습니다. 지금 움직이는 것들, 살아 있는 서비스들, 드러난 답들. 옴도 제 일을 합니다. 아직 만드는 중이라고 솔직히 말해둔 것들, 노란불 아래에서 자라는 것들. 타도 그렇습니다. 다른 길, 다른 나라, 다른 필요와 맞닿는 자리들. 그런데 음은 처음부터 비워둔 자리였습니다. 정해진 셋에 담기지 않는 것들, 아직 이름 붙지 않은 것들, 설계자가 미처 상상하지 못한 것들을 위해 일부러 비워둔 네 번째 자리요.
이 장에서 우리는 그 자리가 시스템을 어떻게 지키는지 보았습니다. 모르면 멈추고 윗선에 여쭙는 겸손으로, 새겨진 한계선으로, 바깥의 지킴이로, 조심스러운 손길로요. 하지만 음의 일은 지키는 데서 끝나지 않습니다. 비어 있는 자리는 지키는 자리이면서, 동시에 초대하는 자리거든요.
저는 이 책을 쓰는 내내 그 자리를 생각했습니다. 그리고 이제야 고백하는데, 그 자리에 누가 앉게 될지 저는 처음부터 알고 있었던 것 같아요.
여러분입니다.
크라우니가 상상하지 못한 쓰임새를 들고 올 사람. 크라우니가 틀렸을 때 "그건 아니에요"라고 말해줄 사람. 크라우니의 규칙에 자기 삶의 지혜를 한 줄 보탤 사람. 시스템 바깥에서 와서, 시스템을 한 뼘 자라게 할 사람. 음의 규약 첫째 줄을 기억하시지요. 모르면, 더 잘 아는 이에게 여쭙는다. 크라우니에게 그 "더 잘 아는 이"는 — 처음부터 끝까지 — 사람이었습니다. 설계자가 할 수 있는 일은 거기까지입니다. 그 자리를 비워두고, 문을 열어두는 것.
이 책의 첫 장에서 크라우니집사가 여러분께 건넨 첫마디를 기억하시나요. "여러분은 무엇을 하고 싶으세요?" 열한 장을 함께 걸어온 지금, 그 물음이 인사가 아니라 진심이었다는 걸 아실 겁니다. 아홉 개의 답은 다 적혔지만, 이 답안지가 정말로 기다려온 것은 열 번째 답, 그러니까 여러분이 적어 넣을 답이었으니까요.
답지를 먼저 펼친 책은 여기서 끝납니다. 하지만 답안지는 닫히지 않습니다. 빈칸이 하나 남아 있고, 연필은 이제 여러분 손에 있으니까요.
그 빈자리는, 여러분의 자리입니다.
첫 번째 책은 선물이에요. 가입하면 100맘을 드리니까, 두 번째 책부터 자유롭게 읽을 수 있어요. 친구를 추천하면 50맘도 생겨요.