일반 · CHAPTER 03

작아도 똑똑하게 — 엣지 AI와 3진의 효율

전화기 안의 작은 생각

언젠가부터 저는 이런 광경에 익숙해졌습니다. 똑똑한 AI를 쓰려면 어딘가 멀리 있는 거대한 건물을 떠올려야 한다는 것. 축구장만 한 데이터센터, 윙윙 돌아가는 냉각팬, 한 도시가 쓸 만큼의 전기. 우리가 휴대폰에 대고 말을 걸면, 그 말은 수천 킬로미터를 날아가 그 건물 안에서 답을 얻어 돌아옵니다.

좋은 AI는 크고, 멀고, 비싸다. 어느새 그게 상식이 되어버렸어요.

그런데 저는 자꾸 다른 그림을 그리게 됩니다. 제 손안의 작은 전화기가, 아무에게도 묻지 않고, 스스로 한 번 생각해보는 그림이요.

"생각이 커질 필요는 없습니다. 제자리에서 똑똑해지면 됩니다."

이게 제가 크라우니를 만들며 품은 고집 하나였어요. 스마트폰에서 도는 AI, 로봇팔에 얹는 AI, 난방비 걱정 없는 AI. 정말 가능할까요? 그리고 그렇게 작은데 정말 똑똑할 수 있을까요?

가능합니다. 그리고 그걸 지금, 크라우니집사라는 작은 친구가 몸으로 증명하고 있어요. 어떻게 가능한지, 함께 들여다보시겠어요?

---

1. 곱하기를 지워버린 날

AI가 생각하는 방식을 부엌일에 빗대볼게요. AI의 머릿속에는 수천억 개의 작은 숫자가 들어 있습니다. 우리는 이걸 '가중치'라고 불러요. 정보가 하나 들어올 때마다, AI는 이 숫자들과 일일이 곱하고, 더하고, 또 곱하고, 또 더합니다. 마치 수천억 가지 재료를 저마다 다른 비율로 섞어 한 그릇의 국을 끓이는 일과 같아요.

여기서 가장 손이 많이 가는 일이 바로 곱하기입니다.

오늘날 거의 모든 AI는 이 곱하기를 아주 정밀하게 해야 합니다. 가중치가 0.00534처럼 소수점 여러 자리짜리 숫자거든요. 그래서 컴퓨터 안에는 곱셈만 전담하는 특별한 부품이 따로 들어갑니다. 이름은 MAC, 곱셈누산기예요. 비싸고, 자리를 많이 차지하고, 전기를 꽤 먹습니다. 좋은 칼은 잘 들지만 손이 많이 가는 법이지요.

저는 여기서 짓궂은 질문을 하나 던져봤어요. "가중치를 딱 세 가지만 쓰면 어떻게 될까?"

  • +1 = "응, 이건 그대로 받아"
  • −1 = "아니, 반대로 뒤집어"
  • 0 = "이건 그냥 넘겨"

이렇게만 하면 신기한 일이 벌어집니다. 곱하기가 통째로 사라져요.

  • 입력값 × (+1)은 그냥 입력값이고
  • 입력값 × (−1)은 부호만 뒤집은 −입력값이고
  • 입력값 × 0은 아예 건너뛰면 그만이거든요.

곱셈이 더는 필요 없어집니다. 남는 건 더하기, 빼기, 그리고 건너뛰기 세 가지뿐. 이 일을 하는 부품(가산기)은 곱셈기보다 한참 작고, 전기도 훨씬 덜 먹습니다. 같은 일을 하는데 칼 대신 가위 한 자루면 되는 셈이죠.

세 가지 숫자만으로 충분하다는 것. 이게 우리 이야기의 출발점입니다.

---

2. 줄어든 숫자들

말로만 하면 미덥지 않으시죠. 실제로 재본 숫자를 보여드릴게요.

먼저 속도입니다. 마이크로소프트가 BitNet이라는 20억 개짜리 3진 AI를 일반 컴퓨터(CPU)에서 돌려봤더니, 보통 AI보다 2.4배에서 6배까지 빨라졌습니다. 휴대폰으로 치면, 완충해서 한 시간 쓰던 것을 여섯 시간 쓰는 격이에요.

다음은 전기. 이쪽이 더 극적입니다. 같은 일을 하는 데 드는 전력이 절반에서, 많게는 8할 넘게 줄었어요.

조금 더 구체적으로 비교해볼까요.

  • 보통 AI가 한 번 생각하는 데 드는 에너지: 약 0.15J
  • 3진 AI가 같은 생각을 하는 데 드는 에너지: 약 0.028J
  • 차이는 약 다섯 배

0.15니 0.028이니 하는 숫자가 와닿지 않으실 거예요. 이렇게 바꿔 말씀드릴게요. 같은 배터리로 다섯 배 더 오래 생각할 수 있다는 뜻입니다. 하루 쓸 것을 닷새 쓰는 거예요.

작은 절약이 아닙니다. AI를 어디에 둘 수 있느냐가 통째로 바뀌는 숫자입니다.

---

3. 크라우니집사는 어디에 사나

솔직하게 한 가지 고백할게요. 이 '3진 가중치'라는 생각, 사실 크라우니가 처음 떠올린 게 아닙니다. 세계 곳곳의 연구팀이 10년 넘게 매달려온 아이디어예요.

그런데 대부분 실험실 문턱을 넘지 못했습니다. 이유는 단순해요. 우리가 쓰는 보통 컴퓨터 칩들이 이 방식을 위해 만들어지지 않았거든요. 곱셈을 전제로 설계된 집에 "곱셈 안 할게요"라고 들어가 사는 격이라, 정작 빨라지지가 않았던 겁니다.

크라우니는 길을 달리 잡았어요. 3진의 세계를 위해, 집을 처음부터 새로 지었습니다.

그 집에 사는 친구가 바로 크라우니집사예요. 살림살이를 소개하면 이렇습니다.

  • 뇌는 Jetson Orin. 손바닥만 한 엣지 AI 칩입니다.
  • 말은 한선씨. 한국어로 짜는 프로그래밍 언어예요.
  • 체계는 ISA729. 크라우니가 직접 정한 명령들의 묶음입니다.

이 셋이 한 지붕 아래 모이면, 3진 계산이 억지가 아니라 자연스러운 일상이 됩니다. 곱셈기는 애초에 설계도에서 빠져 있고, 대신 더하기·빼기·건너뛰기가 물 흐르듯 빠릅니다. 빈집에 가구를 욱여넣은 게 아니라, 살 사람에 맞춰 지은 집인 거죠.

---

4. 그래서 진짜 일을 하나

여기까지 들으시면 마음 한쪽에 의심이 남으실 거예요. "효율 좋은 건 알겠는데, 그래서 정말 쓸모가 있어?" 당연한 질문입니다. 저라도 그렇게 물을 거예요. 크라우니집사가 이미 보여준 것들로 답을 대신할게요.

먼저, 혼자 섭니다. 인터넷이 없어도 제 기기 안에서 스스로 생각합니다. 통신이 끊겨도, 멀리 있는 대기업 AI 서버가 멈춰도, 제 손안에서 일을 계속해요. 덤으로 따라오는 선물이 있습니다. 내 생각의 과정이 바깥으로 새어나가지 않아요. 누구도 내 어깨너머를 엿볼 수 없으니, 그 자체로 더 안전합니다.

다음은, 빠릅니다. 한 번 생각하는 데 평균 29밀리초. 우리가 "어?" 하고 놀라는 데 걸리는 시간이 200밀리초쯤이니, 그보다 훨씬 빨라요. 글을 읽어 내려가는 동안 곁에서 조언이 따라붙을 만큼이요.

그리고, 오래 버팁니다. 같은 일에 전기를 여섯 배 덜 쓰니, 로봇은 더 오래 일하고, 휴대폰은 더 늦게 꺼지고, 구석에 둔 작은 센서는 배터리를 일 년에 한 번만 갈아도 됩니다.

작다고 무를 줄 알았던 친구가, 막상 일을 시켜보니 야무집니다.

---

5. 왜 하필 셋일까

여기서 잠깐, 제가 가장 좋아하는 질문을 꺼내볼게요. "왜 둘(0, 1)이 아니라 셋(−1, 0, +1)일까?"

지금 세상의 모든 컴퓨터는 둘로 셉니다. 켜짐과 꺼짐, 1과 0. 그걸로도 충분하지 않냐고요? 맞아요, 충분할 수 있습니다. 그런데 셋은 둘이 못 하는 일을 한 가지 더 해요. 바로 가운데 자리를 내어주는 일입니다.

둘의 세계에는 두 칸뿐이에요.

  • 1 = 켜짐
  • 0 = 꺼짐

여기엔 망설일 자리가 없습니다. 켜졌거나 꺼졌거나, 둘 중 하나로 딱 떨어져야 해요.

셋의 세계는 칸이 하나 더 있습니다.

  • +1 = "응, 나아가" (크라우니 말로는 '티')
  • 0 = "글쎄, 잠깐" (이건 '옴')
  • −1 = "아니, 돌아가" ('타')

가운데 '옴'은 "잘 모르겠으니 일단 보류"의 자리예요. 그리고 크라우니에는 이 셋 어디에도 깔끔히 안 담기는 것들 — 돌연변이 같은 예외, 이해되지 않는 변수, 어긋난 값 — 을 받아주는 또 하나의 자리가 있습니다. 우리는 그걸 '음'이라 부릅니다. 세상에 딱 떨어지지 않는 일이 얼마나 많은지를 아는 자리예요.

저는 이 가운데 자리가 그냥 계산상의 편의라고 생각하지 않습니다. "나는 잘 모르겠어"라고 말할 줄 아는 것. 그건 막힘이 아니라 정직함이에요. AI가 모르는 걸 모른다고 인정할 수 있다는 건, 어쩌면 답을 잘 맞히는 것만큼이나 귀한 미덕입니다. 그럴듯하게 둘러대는 거짓 확신보다 백 배 낫거든요.

크라우니가 이 대목을 '정직보정'이라 이름 붙인 이유가 여기 있습니다. 셋으로 세면 더 빨라지고, 더 적게 먹고 — 그리고 덤으로, 조금 더 정직해집니다.

---

6. 작아도 충분한 세계

지금까지 AI의 역사를 한 줄로 줄이면 "더 크게, 더 비싸게, 더 한가운데로"였습니다. 그 끝에서 우리는 은근히 믿게 됐어요. 세상에서 손꼽히는 몇몇 회사만이 진짜 좋은 AI를 만들 수 있다고요.

크라우니가 그리는 그림은 정반대입니다. "작아도 충분하다. 그러니 누구나 가질 수 있다."

함께 미래를 한 번 상상해볼까요.

  • 시골의 작은 의원이, 자기 진료실 안에서 진단을 돕는 AI를 돌립니다.
  • 개발도상국 학교의 낡은 컴퓨터에서, 학습 AI가 아이들 곁을 지킵니다.
  • 어느 나라의 정부도, 다른 나라의 AI 회사에 목줄을 잡히지 않습니다.
  • 멀리 사시는 할머니 댁 작은 센서가, 배터리 하나로 다섯 해를 묵묵히 버팁니다.

이 모든 게 가능해지는 까닭은 의외로 단순합니다. 효율이 곧 민주화이기 때문이에요. 작고 싸고 적게 먹는다는 건, 결국 더 많은 사람의 손에 쥐어줄 수 있다는 뜻이니까요. 가장 작은 사람의 자리에서 출발하는 것, 그게 제가 늘 마음에 둔 출발점입니다.

---

마주침 — 크라우니의 선택

2026년의 세상은 두 갈래 길 앞에 서 있습니다.

한쪽은 "더 큰 모델, 더 많은 파라미터, 더 무거운 비용"의 길이에요. 이름만 들어도 아실 거대한 회사들이 그 길을 성큼성큼 걷고 있습니다. 그 길에도 그 길의 답이 있을 거예요. 저는 그걸 부정하지 않습니다.

다만 크라우니는 다른 길을 골랐습니다. "작아도 똑똑하게, 제 손으로, 비용은 가볍게."

이건 단순히 기술을 어느 쪽으로 고를까의 문제가 아니에요. 누가 AI를 가지느냐의 문제고, 누가 AI와 함께 내일을 짓느냐의 문제입니다. 저에게는 철학의 문제예요.

그리고 크라우니집사는, 손바닥만 한 몸으로 그 선택이 틀리지 않았음을 매일 증명하고 있습니다.

자, 이렇게 작은 친구가 어떻게 생각하는지를 봤으니 — 다음 장에서는 이 친구가 어떤 말로 생각하는지, 한국어로 짜인 그 속내를 함께 들여다보겠습니다.

---

기술 미주

BitNet b1.58 실측 (2025년, 마이크로소프트)

  • CPU 추론 속도: fp16 대비 x86에서 2.37~6.17배, ARM에서 1.37~5.07배
  • 에너지 효율: 토큰당 55~82% 감소
  • 추론 지연: 단일 CPU에서 약 29ms/token (디코딩 기준)

크라우니 확보 기술

  • ISA729: 489 opcode, 3진 네이티브 명령 집합
  • CrownyOS: RPi5, N100, Jetson 멀티플랫폼 베어메탈
  • 한선씨: 한국어 프로그래밍 언어 + 3진 최적화 컴파일러

주의 위의 3진 효율 수치(2~6배, 55~82%)는 CPU·소프트웨어 레벨 측정치입니다. 메모리 입출력, 임베딩 계층, 전체 시스템 오버헤드까지 포함하면 실제 종단 효율은 달라질 수 있습니다. 다만 전용 3진 하드웨어(ASIC)에서는 더 큰 이득(4.8~21배)이 보고된 바 있습니다.

내 맘 –

독자 게시판 — 함께 읽고 남기는 곳

불러오는 중…

크라우니 책방에 가입하고 무료로 읽기

첫 번째 책은 선물이에요. 가입하면 100맘을 드리니까, 두 번째 책부터 자유롭게 읽을 수 있어요. 친구를 추천하면 50맘도 생겨요.