2025년, 저는 기술 회사들이 약속이라도 한 듯 똑같은 꿈을 꾸는 모습을 지켜봤습니다.
"혼자서 일하는 AI를 만들겠다."
말은 참 좋았어요. 사람이 "이것 좀 해줄래?" 하고 한 번만 부탁하면, AI가 알아서 계획을 세우고, 필요한 도구를 찾아 쓰고, 중간에 실수하면 스스로 고쳐가며 끝까지 해내는 것. 사람들은 이런 AI를 "자율 에이전트"라고 불렀습니다. 그 꿈에 수십억 달러가 흘러 들어갔어요.
그래서 어떻게 됐을까요?
기업의 약 79%가 어떤 형태로든 에이전트를 만들어보려 했습니다. 그런데 실제로 일하는 제품까지 완성한 곳은 약 11%에 그쳤어요. 나머지는 대부분 도중에 멈췄습니다. 세계적인 IT 리서치 회사 가트너는, 2027년까지 이런 에이전트 프로젝트의 40% 이상이 폐기될 것이라고 내다봤습니다.
저는 그 실패를 비웃지 않았습니다. 오히려 한참을 들여다봤어요. 왜 그토록 똑똑한 사람들이, 그토록 많은 돈을 들이고도 넘어졌을까. 그 안에 답이 있을 것 같았거든요.
들여다보니, 넘어진 자리가 비슷했습니다. 크게 세 가지였어요.
첫째, 무엇을 시킬지를 분명히 하지 않았습니다. "AI가 똑똑해지면 알아서 일하겠지" 하고 믿어버린 거예요. 정작 무슨 일을 어떻게 해야 하는지는 알려주지 않은 채로요.
둘째, 큰 언어모델이 주인 행세를 했습니다. 마치 왕이 신하를 부리듯, 모든 결정의 중심에 큰 언어모델이 앉아 있었어요. 그러니 그 모델이 한 번 헛것을 보면 — 없는 사실을 지어내거나, 추론을 살짝 어긋나게 하면 — 시스템 전체가 함께 휘청였습니다.
셋째, 지킬 규칙이 없었습니다. "이런 상황이면 이렇게 한다"는 단단한 약속 없이, 오직 큰 언어모델의 '느낌'에 모든 걸 맡겼어요. 느낌은 어제와 오늘이 다릅니다. 그래서 믿을 수가 없었습니다.
여기서 저는 한 가지를 뒤집어 보기로 했습니다.
"큰 언어모델이 꼭 주인이어야 할까? 규칙이 주인이 되면 어떨까?"
역할을 바꿔본 거예요. 기존 방식에서는 큰 언어모델이 결정권을 쥐고, 규칙은 보조 도구였습니다. 크라우니는 반대로 했습니다. 규칙엔진이 결정권을 쥐고, 큰 언어모델은 그 결정을 부드럽게 거드는 윤활유 역할을 맡았어요.
윤활유라는 말이 조금 낯설게 들리실지도 모르겠습니다. 이렇게 생각해 보세요. 자동차가 굴러가려면 엔진이 있어야 합니다. 그런데 부품들이 바짝 메말라 있으면 엔진이 고생하죠. 윤활유를 넣어주면 부품끼리 부드럽게 맞물려 돌아갑니다. 윤활유가 차를 운전하는 건 아니에요. 다만 운전을 매끄럽게 도울 뿐입니다.
크라우니에서 진짜 운전대를 쥔 것은 규칙입니다. 큰 언어모델은 그 규칙의 무겁고 딱딱한 결정을, 사람에게 닿을 때 부드럽게 풀어주는 윤활유예요. 결정은 규칙이 하고, 매끄러움은 모델이 보탭니다.
그렇다면 그 '규칙'의 정체는 무엇일까요. 바로 티옴타음(티·옴·타·음) 의사결정 엔진입니다.
크라우니는 어떤 일을 맡았을 때, 딱 네 가지 대답만 내놓도록 만들었습니다. 신호등 색깔이 정해져 있듯이요. 이 네 가지가 바로 티·옴·타·음입니다.
규칙이 또렷하고, 지난 경험을 봐도 늘 이 길이 옳았던 경우입니다. 그러면 AI는 망설이지 않고 "예"라고 말하며 일을 시작합니다. 사람의 추가 확인을 기다리지 않아요.
예를 들어 고객이 "내 계좌에 입금해 주세요"라고 했다고 해볼게요. 계좌번호가 맞고, 금액이 타당하고, 똑같은 요청이 지난 열 번 모두 무사히 처리됐다면, AI는 그냥 들어갑니다. "티, 진행합니다." 티는 데이터가 또렷이 드러난 자리, 확신의 자리입니다.
규칙으로도, 과거 경험으로도 선뜻 판단이 서지 않는 경우입니다. 티(예)와 타(아니오) 사이, 아직 결정을 보류한 '대기'의 자리예요. 이때 AI는 멈춰 서서 손을 놓는 대신, 스스로 정보를 찾으러 나섭니다.
새 고객이 "100만 원만 빌릴 수 있을까요?" 하고 물었다고 합시다. 규칙상 신용 정보를 봐야 답할 수 있는데, 지금 시스템엔 그 정보가 없어요. 그러면 AI는 신용조회 기관에 자동으로 물어보고, 정보를 모은 뒤, "이 분은 대출 가능합니다"라는 판단으로 옮겨갑니다. 옴이 티로 올라서는 순간이죠. 옴은 멈춤이 아니라, 답을 찾으러 가는 길목입니다.
규칙이 또렷한데, 그 규칙이 "해서는 안 된다"고 말하는 경우입니다. 또는 위험이 분명한 경우예요. 그러면 AI는 단호하게 "아니오"라고 말하고 멈춥니다. 아무리 사람이 다시, 더 세게 요청해도, AI는 규칙을 지킵니다.
돈을 빌린 고객이 이자까지 다 갚지 못한 상태에서 "한 달만 더 빌려주세요"라고 한다면요. 규칙상 미상환액이 남아 있으면 추가 대출은 금지입니다. AI는 분명히 말합니다. "타, 안 됩니다." 예외는 없어요. 이 단호함이 때로는 차갑게 느껴질 수 있습니다. 하지만 저는 이 차가움이 오히려 사람을 지킨다고 믿습니다.
규칙도 없고, 과거 경험도 없고, 아무리 알아봐도 감이 잡히지 않는 경우입니다. 정규 세 갈래(티·옴·타) 어디에도 담기지 않는, 처음 보는 종류의 일이에요. 돌연변이 같은 상황, 틀에서 벗어난 변수, 이해되지 않는 예외 — 그 모든 것이 모이는 자리가 음입니다.
이럴 때 AI는 자기 역할을 내려놓고 사람에게 넘깁니다. "이건 당신이 결정해 주세요." 책임까지 함께요.
고객이 "지진이 나서 그러는데, 사흘만 계좌를 동결해 주실 수 있나요?" 하고 물었다고 합시다. 규칙에 없습니다. 비상 운영 지침에도 없어요. 정말 처음 겪는 일입니다. 그러면 AI는 정중히 음을 말합니다. "이 건은 경영진과 법무팀의 판단이 필요합니다." 모른다는 걸 솔직히 인정하는 것 — 저는 이게 가장 어른스러운 대답이라고 생각합니다.
이 네 갈래를 또렷이 지키면, 우리는 세 가지 선물을 얻습니다.
첫째, 다음을 예측할 수 있습니다. 큰 언어모델이 주인이던 시절엔, 같은 상황인데도 어제는 "가능", 오늘은 "불가능"이라는 답이 나오곤 했어요. 기분 따라 사람을 대하는 상사 같았죠. 크라우니는 규칙이 주인이라, 같은 상황이면 백 번이면 백 번 같은 답을 합니다. 그래서 사람들이 마음 놓고 기댈 수 있어요.
둘째, 책임이 또렷합니다. 네 대답마다 누가 책임지는지가 분명합니다. 티와 타는 규칙이 책임집니다. 규칙대로 했으니까요. 옴은 AI의 조사 능력이 책임집니다. 충분히 알아보고 판단했으니까요. 음은 사람이 책임집니다. AI가 모른다고 정직하게 넘겼으니까요. 일이 어긋났을 때 "어디서, 왜 어긋났는지"를 거슬러 올라갈 수 있다는 것 — 이건 생각보다 귀한 일입니다.
셋째, 스스로 자랍니다. 크라우니의 에이전트는 일하면서 배웁니다. 처음엔 "추가 대출 신청"이 죄다 옴(알아봐야 하는 일)이었어요. 그런데 백 건쯤 처리하다 보면 결이 보입니다. 신용점수가 높은 쪽은 거의 다 성공하고, 낮은 쪽은 대부분 실패하더라는 식으로요. 그러면 크라우니는 새 규칙을 스스로 빚어냅니다. "이 위는 자동 승인(티), 저 아래는 자동 거절(타), 그 사이만 계속 알아보기(옴)." 알아봐야 할 영역이 절반으로 줄어드니 더 빨라지는데, 정확도는 외려 올라갑니다. 규칙이 세상의 진짜 결을 조금씩 배워가고 있기 때문이에요.
저는 이론으로 끝나는 이야기를 좋아하지 않습니다. 그래서 이 네 갈래 대답은 지금 실제 서비스 안에서 돌아가고 있습니다.
먼저 돈을 다루는 자리입니다. 크라우니페이라는 결제 서비스는 매일 수천 건의 송금과 환전 요청을 처리해요. 모두 티·옴·타·음으로 자동 판단됩니다. 흥미로운 건 결제 수수료입니다. 세상의 카드사나 결제 회사들은 보통 1~3%의 수수료를 떼지만, 크라우니페이는 떼지 않아요. 대신 규칙이 정확하니 사기나 실수로 인한 손실이 아주 적습니다. 새는 데가 없으니 굳이 수수료로 메울 일도 없는 거예요.
여기서 잠깐, 크라우니 안에서 돈이 어떻게 생겼는지 한 겹만 보여드릴게요. 크라우니의 살림은 세 층으로 되어 있습니다. 가장 아래 머니는 일상의 교환과 결제에 쓰는 화폐, 크라우니원입니다. 원화 1,000원에 맞춰둔 결제 단위예요. 그 위 에셋은 가치를 담아두는 자산입니다. 2,550원에 대응하면서도 자산처럼 든든하게 버티는 '포네', 그리고 "좋아요"나 하트처럼 마음을 살짝 건네는 약 25원 단위의 '맘'이 여기 있어요. 그리고 맨 위 웰스, 진짜 부의 층에는 '크라우니'가 있습니다. 그 너머로 '한선'과 '선호'라는 더 큰 부의 단계가 준비되어 있는데 — 이건 아직 열리지 않은 문입니다. 앞으로 차차 열릴 이야기로 남겨두겠습니다. 결제 한 번 뒤에도 이렇게 머니에서 에셋, 부로 이어지는 사다리가 깔려 있고, 그 사다리 위에서 네 갈래 판단이 쉬지 않고 돌아갑니다.
다음은 웹을 안전하게 지키는 자리입니다. 크라우니브라우저는 우리가 웹을 둘러보는 동안 위험한 사이트를 자동으로 가려냅니다. 마치 동네를 도는 순찰처럼요. 기존 브라우저들도 비슷한 기능이 있지만, 그들은 멀리 있는 중앙 서버에 일일이 물어보느라 한 박자 느립니다. 크라우니는 판단 규칙을 사용자 기기 안에 품고 있어서, 그 자리에서 바로 답합니다. 빠르고, 내 정보가 멀리 나가지 않아요.
마지막은 물건을 만드는 자리입니다. 크라우니의 자동화 공장에서는 로봇들이 스스로 일합니다. 사람은 아침에 "오늘 자동차 부품 천 개를 만들어 주세요"라고 한마디만 건넵니다. 그러면 로봇들이 부품의 무게와 모양, 재료를 따져 어느 로봇이 어떤 순서로 일할지 알아서 짭니다. 가다가 휘어버린 부품이 나오면요? 로봇이 곧장 알아채고 "이건 품질 기준에서 타, 못 씁니다" 하고 골라냅니다. 사람이 일일이 들여다보지 않아도, 네 갈래 판단이 라인 위를 흐릅니다.
솔직하게 짚고 넘어가겠습니다. 지금까지 말씀드린 "네 갈래 규칙"을 크라우니가 처음 만든 건 아닙니다. 사실 은행이나 보험사 같은 큰 조직들은 수십 년 전부터 이런 규칙을 써왔어요. "이 조건이면 이 판단"이라고 사람이 하나하나 프로그래밍해 둔 거죠.
그러니 제가 자랑스럽게 내세울 수 있는 건, 규칙 그 자체가 아니라 규칙을 다루는 방식입니다. 세 가지가 달라요.
첫째, 규칙을 사람이 아니라 데이터가 빚습니다. 예전 방식은 전문가가 머리로 짜낸 규칙을 프로그래머가 코드로 옮겼습니다. 몇 달이 걸리는 일이었어요. 크라우니는 지나온 데이터를 들여다보며 규칙을 스스로 뽑아냅니다. 수학 선생님이 학생들 답안지를 한참 채점하다가 "아, 얘들은 이런 식으로 푸는구나" 하고 깨닫는 것처럼요. 몇 달이 몇 주로 줄어듭니다.
둘째, 규칙을 사람의 말로 읽을 수 있습니다. 예전 코드는 기술자가 아니면 도무지 알아볼 수 없는 영어와 기호 덩어리였어요. 크라우니에서는 규칙을 우리말로 적습니다. "신용점수가 충분히 높고 소득이 안정적이면 승인, 애매하면 더 알아보기, 그 밖은 거절." 이렇게 한국말로 적어두면 금융 담당자도 술술 읽고, 컴퓨터가 알아서 자기 언어로 번역해 갑니다. 규칙을 만든 사람과 규칙을 쓰는 사람 사이의 벽이 사라지는 거예요.
셋째, 규칙들이 서로 돕습니다. 예전 방식에서는 규칙 1, 2, 3이 각자 따로 돌았어요. 규칙 1이 어긋나도 규칙 2가 메워줄 수 없었습니다. 크라우니에서는 여러 규칙이 티·옴·타·음으로 한데 엮여 있습니다. 규칙 1이 "옴, 더 알아봐야 해" 하고 손을 들면, 규칙 2가 그걸 보고 "그건 이렇게 알아보면 돼" 하고 거듭니다. 혼자 일하는 부품이 아니라, 한 팀으로 일하는 동료들인 셈이죠.
여기까지 읽으신 분이라면, 마음 한구석에 이런 물음이 남아 있을 겁니다.
"그래서, 맨 처음 규칙은 대체 누가 정하는데요?"
좋은 물음입니다. 솔직히 이게 핵심이에요. 답은 상황에 따라 셋으로 갈립니다.
이미 분명한 법이 있는 경우가 있습니다. 은행 대출 같은 일은 금융 당국이 정해둔 규정이 있어요. 그러면 크라우니는 그 규정을 우리말로 옮겨 충실히 실행할 뿐입니다. 규칙을 새로 만들지 않아요.
분명한 법은 없지만 데이터가 쌓인 경우도 있습니다. "이 고객이 다시 찾아올 확률"같은 건 법으로 정해진 게 없죠. 하지만 지나온 손님들의 발자취가 남아 있습니다. 크라우니는 그 발자취를 분석해 규칙을 스스로 길어 올립니다.
규칙도 데이터도 없는 경우가 있습니다. 그러면 결국 사람이 결정해야 해요. 경영자, 담당 매니저, 그 분야의 전문가. 그들이 "우리는 이렇게 하기로 한다"고 정하면, 크라우니는 그 말을 규칙으로 받아 안습니다. 결국 맨 앞에 서는 건 언제나 사람이에요. AI는 그 결정을 충실히, 지치지 않고 이어받을 뿐입니다.
크라우니의 자율 에이전트를, 저는 한 문장으로 이렇게 부르고 싶습니다.
"AI는 당신의 일을 돕는 친구다. 일을 혼자 다 떠안는 친구가 아니라, 당신과 함께 책임지는 친구."
세상이 만들려던 AI는 "나 똑똑하니까 내가 다 할게" 하고 혼자 결정하고 떠나는 쪽이었습니다. 그러다 일이 어긋나면 "어, 내가 왜 그랬지?" 하며 책임이 허공에 떠버렸어요.
크라우니의 AI는 그렇게 말하지 않습니다. "이건 분명하니 제가 하겠습니다(티). 이건 알아봐야 하니 정보를 찾고 오겠습니다(옴). 이건 규칙상 안 됩니다(타). 이건 정말 모르겠으니, 당신이 결정해 주세요(음)." 네 갈래 중 하나를 또렷이 말하고, 그 말에 책임을 함께 얹습니다. 그래서 미덥고, 예측할 수 있고, 함께 자랍니다.
이제 그토록 똑똑한 회사들이 왜 넘어졌는지 조금 보이시나요. 그들은 AI를 '똑똑한 왕'으로 앉히려 했습니다. 저는 다른 자리를 내어주고 싶었어요. 똑똑한 일꾼이면서, 동시에 정직한 친구.
그 자리는 분명 더 만들기 어렵습니다. 하지만 사람 곁에 두기에는, 이쪽이 훨씬 쓸모 있다고 저는 믿습니다.
그리고 이 정직한 친구가 정말 사람을 위하려면, 한 가지가 더 필요합니다. 친구가 늘 진실만을 말한다는 믿음이지요. 다음 장에서는 이 친구가 어떻게 손바닥 위의 작은 몸으로도 정직하게 생각하고 판단할 수 있는지, 그 비결을 함께 들여다보겠습니다.
첫 번째 책은 선물이에요. 가입하면 100맘을 드리니까, 두 번째 책부터 자유롭게 읽을 수 있어요. 친구를 추천하면 50맘도 생겨요.