자기 위치도 모르는 큐브 197개, 70초 만에 '테이블'이라고 합의했습니다

사카나는 발표 게시물에서 이 연구를 회사가 오래 붙들어 온 주제인 집단 지능을 소프트웨어 밖으로 꺼낸 첫 시도라고 소개했습니다. 집단 지능은 개미 군집이나 세포 조직처럼 단순한 부품 여럿이 주변만 보고 규칙을 따르는데 전체는 똑똑하게 움직이는 현상입니다. 사카나는 그동안 여러 프런티어 모델을 협력시키는 트리 탐색 AB-MCTS나 모델 여럿을 하나처럼 묶는 Fugu처럼 이 원리를 소프트웨어 안에서만 다뤘고, 이번에는 통신에 잡음이 끼고 모듈이 고장 나는 물리 세계에서도 같은 원리가 버티는지 물었다고 적었습니다.

4년 전에는 평평한 타일 20장이었습니다

같은 질문을 먼저 던진 사람들이 이 논문의 저자들입니다. 캐스린 워커를 제1저자로 로드리고 모레노, 안드레스 파이냐, 세바스티안 리시가 참여한 코펜하겐 IT대학 연구진은 2022년 3월 2차원판을 먼저 공개했습니다. 인쇄회로기판으로 만든 네모난 타일을 늘어놓아 0부터 9까지 숫자 모양을 만들면, 타일들이 네 방향 이웃과 신호를 주고받아 자기들이 어떤 숫자인지 맞히는 장치였습니다.

그때 만든 타일은 20장이었습니다. 숫자 10종을 모두 실물로 맞혔지만, 크기를 키운 숫자는 타일이 모자라 시뮬레이션으로만 시험했습니다. 논문은 한계로 타일 수가 적다는 점과 실제 기계는 대부분 3차원에서 움직인다는 점을 적었고, 이번 논문이 그 두 가지를 이어받았습니다.

새 논문은 지난해 9월 23일 arXiv에 먼저 올라왔고, 다음 날 투고돼 올해 6월 22일 게재가 확정됐습니다. 저자는 다섯 명으로, 모레노·파이냐·워커는 코펜하겐 IT대학, 샴 수다카란은 오토데스크 리서치 소속이고 마지막 저자 리시는 코펜하겐 IT대학과 사카나 AI에 함께 적을 두고 있습니다.

큐브 하나는 이웃 여섯 개만 봅니다

바탕에 깔린 계산 방식은 세포자동자입니다. 격자 위의 세포 하나하나가 이웃 세포의 상태만 보고 자기 다음 상태를 정하는 방식으로, 예전에는 그 규칙을 사람이 손으로 짰습니다. 신경 세포자동자는 규칙 자체를 신경망으로 학습합니다. 상태를 켜짐과 꺼짐 대신 연속된 실수로 두기 때문에, 틀린 만큼 규칙을 조금씩 고치는 경사하강법으로 학습할 수 있습니다.

사카나 블로그는 이 연구가 2020년 Distill에 실린 두 글 위에 서 있다고 밝혔습니다. 2월 알렉산더 모르드빈체프 등이 낸 글은 세포 하나에서 출발해 도마뱀 이모지 모양으로 자라고, 일부를 지워도 다시 자라는 신경 세포자동자를 보였습니다. 8월 글은 손글씨 숫자의 픽셀 하나하나가 이웃과만 신호를 주고받아 자기가 어느 숫자의 일부인지 합의하게 했습니다. 2022년 타일은 이 손글씨 실험을 물리 장치로 옮긴 것이고, 이번 큐브는 그것을 3차원으로 쌓은 것입니다.

큐브 하나의 상태는 숫자 28개입니다. 살아 있는 세포인지 표시하는 값 1개, 기억 노릇을 하는 숨은 값 20개, 일곱 부류 각각의 점수 7개로 이뤄집니다. 큐브는 매 갱신마다 자기 상태 28개를 붙어 있는 이웃에게 보내고, 받은 값과 자기 값을 신경망에 넣어 상태를 고칩니다. 그 순간 점수가 가장 높은 부류가 큐브의 답이고, 큐브 속 LED가 그 부류의 색으로 켜집니다.

신경망은 3차원 합성곱 한 번과 작은 층 두 개로 끝납니다. 합성곱 창은 3×3×3이지만 십자 모양 가림을 씌워, 자기 자신과 면으로 맞닿은 이웃 여섯만 보게 했습니다. 모든 큐브가 같은 가중치와 같은 코드를 쓰고, 어느 큐브도 자기 좌표나 전체 형상을 전달받지 않습니다.

큐브 크기는 가로세로 44mm, 높이 47mm입니다. 두께 1.6mm 유리섬유 기판 여섯 장을 맞물려 상자를 만들고, 윗면 기판에 와이파이 마이크로컨트롤러 ESP32-S2와 RGB LED를 올렸습니다. 면마다 6핀 커넥터가 하나씩 달려 전원과 신호를 이웃에 넘기며, 이 커넥터가 큐브끼리 붙잡아 주는 유일한 연결입니다.

통신은 여섯 면이 따로 돌아가야 해서, 표준 직렬 통신 대신 펄스 길이로 0과 1을 가르는 자체 규약을 짰습니다. 신경망을 한 번 돌릴 때마다 최대 3초 동안 같은 메시지를 다섯 번 보내고, 덜 도착했거나 머리표가 틀린 메시지는 버립니다. 붙은 이웃이 없거나 제때 도착하지 않은 면은 0으로 채웁니다. 부품을 100개분 주문하면 큐브 하나에 약 20유로, 1,000개분이면 15유로가 들고, 지그 하나만 두고 손으로 납땜하면 한 개 조립에 10분쯤 걸린다고 적었습니다.

형상 487개로 배우고 실물 네 개로 시험했습니다

학습 자료는 3D 모델 모음 ShapeNet에서 일곱 부류를 골라 한 변 15개 이하의 블록 격자로 줄인 형상 487개입니다. 해상도를 낮추다 끊기거나 알아볼 수 없게 된 형상은 손으로 걸렀습니다. 시뮬레이션에서는 세포마다 매 갱신 절반 확률로만 상태를 고치게 했는데, 논문은 이 무작위 갱신이 견고함과 협응을 키운다고 설명합니다. 실물 실험에서는 결과를 일정하게 하고 수렴을 앞당기려고 모든 큐브가 매번 갱신하게 했습니다.

정확도는 한 형상에서 정답 부류를 가리킨 큐브의 비율입니다. 가장 낮은 집은 학습에 쓴 형상이 6개뿐이었고, 자동차는 10개로 배우고도 98.6%를 냈습니다.

실물 실험은 비행기, 기타, 보트, 테이블 네 형상으로 했습니다. 전원 장치를 켜면 모든 큐브가 거의 동시에 깨어나 신경망을 돌리고 이웃과 상태를 주고받는 일을 되풀이합니다. 네 형상 모두 23번째 갱신, 약 70초 만에 모든 큐브가 정답 색으로 켜졌고, 실험이 끝나는 60번째 갱신(180초)까지 답이 흔들리지 않았습니다. 형상마다 세 번씩 돌려 세 번 모두 성공했습니다. 사카나 블로그가 적은 「약 3분」은 이 60번 갱신 전체의 길이입니다.

15% 고장에도 버틴 것은 비행기와 보트였습니다

사카나 AI 공동창업자 데이비드 하는 발표 당일 X에 올린 해설에서, 이 시스템이 모듈 15%가 고장 나도 정확도를 잃지 않는다고 소개했습니다. 실물 큐브 200개 가까이로 수렴률 100%를 냈다는 설명도 함께 실었습니다.

논문의 실험은 이렇습니다. 형상마다 모듈 5%, 10%, 15%를 무작위로 골라 신호를 보내지도 받지도 못하게 막고, 조건마다 다섯 번씩 돌렸습니다. 5% 고장에서는 대부분 형상이 높은 성공률을 지켰고, 비행기와 보트는 15%에서도 거의 떨어지지 않았습니다.

무너진 형상도 있었습니다. 기타는 몸통과 머리를 잇는 목이 가늘어서, 목에서 모듈 하나만 고장 나도 양쪽이 소식을 주고받지 못하는 두 덩어리로 갈라져 분류가 흐트러질 수 있었습니다. 논문 그림 3을 보면 테이블도 고장 비율 10%부터 성공률이 대부분 절반 아래로 내려가고, 15%에서는 0.1 안팎에 머뭅니다. 15% 고장을 견딘다는 설명이 들어맞는 형상은 네 개 가운데 비행기와 보트 둘이었습니다.

처음 보는 변형도 시험했습니다. 학습 형상의 테이블 양옆을 덜어 내고 짧은 다리 다섯 개를 아무 데나 붙인 테이블은 테이블로, 가운데 솟은 구조물을 한쪽으로 옮긴 보트는 보트로 맞혔습니다. 크기를 줄인 비행기도 맞혔지만 크기를 줄인 테이블은 의자로 봤고, 논문은 모듈 수가 줄면서 형상을 가르는 단서가 함께 줄었을 가능성을 들었습니다.

학습 없는 알고리즘도 100%를 냈습니다

논문에는 발표 게시물에 없는 비교가 하나 더 실렸습니다. 학습 없이 그래프 구조를 특징으로 뽑아 분류하는 고전적인 방법인 바이스파일러-레만(WL) 방식을 같은 문제에 분산해 돌려 봤더니, 시뮬레이션 분류 정확도가 100%였습니다. 신경 세포자동자는 98.97%였습니다. 고장 난 형상에서 낸 평균 정확도도 72.17%(표준편차 35.68)와 67.96%(44.11)로 비슷했습니다.

저자들이 신경 세포자동자를 고른 이유는 돌아가는 방식에 있습니다. 신경 세포자동자는 정해진 횟수만큼 이웃과 주고받으면 끝나지만, 분산판 WL은 형상의 지름이 길수록 통신이 늘고 정확히 돌리려면 전체를 맞추는 조율이 되풀이해 필요합니다. WL은 분류 결과만 내놓아서, 손상 위치를 짚고 다시 채우는 데 쓸 방향 신호도 주지 못합니다.

의자는 등받이에서 신호가 퍼졌습니다

연구진은 큐브들이 문제를 어떻게 푸는지도 들여다봤습니다. 발생 생물학에는 모르포겐이라는 물질이 있습니다. 배아 조직에 농도 차를 만들며 퍼져, 세포에게 몸의 어디쯤에 있는지 알려 주는 분자입니다. 연구진은 신경망의 숨은 값을 모르포겐처럼 색으로 칠해 시간 순서대로 그려 봤습니다.

테이블에서는 7번 값이 좌우로 갈리는 무늬를, 21번 값이 가운데에서 바깥으로 퍼지는 무늬를 일찍 만들었습니다. 의자에서는 21번 값이 앞뒤 방향 무늬를 만들었고, 그 신호가 등받이에서 앞쪽으로 번졌습니다. 그림 속 의자의 윗부분은 처음에 테이블(노란색)로 분류됐다가 시간이 지나며 의자(파란색)로 넘어갑니다. 저자들은 테이블과 의자의 기본값이 처음에는 테이블이고, 등받이에서 나온 신호가 이웃 큐브의 판단을 차례로 돌려놓는다고 해석했습니다. 다만 이 무늬가 생물 발생의 작동 원리를 재현한 모델은 아니며, 국소 상호작용에서 공간 질서가 생기는 모습이 대략 닮았을 뿐이라고 덧붙였습니다.

손상 방향은 94.8%, 복구는 시뮬레이션에서 했습니다

다음 과제는 손상 찾기였습니다. 큐브마다 형상 부류와 함께 이웃 가운데 빠진 쪽이 있는지를 일곱 갈래(손상 없음, 또는 위·아래·앞·뒤·왼쪽·오른쪽 중 한 방향)로 맞히게 했습니다. 공 모양과 상자 모양으로 파낸 형상으로 학습시켰더니 손상 방향은 평균 94.8%로 맞혔고, 형상 분류 정확도는 98.9%를 지켰습니다.

복구 방법은 단순합니다. 손상이 있다고 표시된 방향으로 세포를 하나씩 붙이고, 더는 손상이 잡히지 않을 때까지 되풀이합니다. 연구진은 두 방식을 견줬습니다. 스스로 부류를 판단하며 복구하는 방식은 목표 형상을 몰라도 되지만, 손상 때문에 다른 부류처럼 보이면 엉뚱한 쪽으로 복구합니다. 등받이를 통째로 잃은 의자는 테이블로 다시 분류됐고, 그 뒤로는 손상된 테이블로 취급됐습니다.

목표 형상을 작은 인코더로 넣어 주는 방식에는 이런 혼동이 없습니다. 이 방식은 학습 때 한 번도 겪지 않은 조건, 곧 세포 몇 개만 남은 상태에서도 거의 모든 형상을 되살렸습니다. 두 방식 모두 숨은 값이 많을수록 복구 정확도가 올랐습니다.

기타와 집은 두 방식 모두에서 가장 어려운 부류였습니다. 실물 큐브에 쓴 숨은 값은 20개였습니다. 손상 찾기와 복구 실험은 모두 시뮬레이션에서 했고, 실물 큐브에는 스스로 움직이거나 다른 큐브를 끌어오는 장치가 없습니다.

큐브 1만 8,000개짜리 형상도 GPU 한 장으로 배웠습니다

실물 큐브가 200개 가까이밖에 없어서 규모는 시뮬레이션에서 키웠습니다. 격자를 한 변 15개에서 32개, 64개로 늘리고, 속이 빈 구조와 내부 공동, 큐브 1만 8,000개가 넘는 형상까지 넣었습니다. 숨은 값을 128개로 두자 분류 정확도는 세 해상도에서 0.98, 0.96, 0.96이었습니다. 사카나가 발표 게시물에 붙인 물고기와 회사 로고, 심장 모양 복구 영상이 최대 64³ 격자에서 돌린 시뮬레이션 결과입니다.

학습 부담도 크지 않았습니다. 정확도 90%를 넘기까지 평균 108번(15³), 517번(32³), 611번(64³)의 학습 단계가 걸렸습니다. 자기 분류 복구 모델을 학습시키는 데는 엔비디아 A10G GPU 한 장으로 약 2시간, 6시간, 8시간이 들었습니다.

스스로 움직이는 블록은 아직 없습니다

저자들은 논문 끝에 생물과의 거리를 세 가지로 적었습니다. 큐브는 에너지를 스스로 얻지 못해, 30V 외부 전원을 큐브 한두 개에 물려 전체에 나눠 씁니다. 모든 큐브가 같은 규칙을 돌릴 뿐 세포처럼 역할을 나눠 맡지 못합니다. 감지와 작동, 재료의 변형이 없어 스스로 자라거나 고치지도 못합니다.

능동적인 자가 수리에는 작동 장치가 필요하다고 적었습니다. 자석으로 붙는 밀리미터 크기 블록이나 격자 위를 걸어 다니며 모듈을 옮기는 로봇이 예로 나왔고, 공용 저장소에서 큐브를 스스로 끌어와 붙이는 폐루프 성장과 전자부품 소형화도 과제로 들었습니다.

쓰임새는 시기별로 나눠 적었습니다. 가까운 시기에는 쌓아 올린 모양을 블록이 알아보고 다음 블록을 어디에 놓을지 알려 주는 교육용 놀잇감을, 그다음으로는 건물 외벽 타일이나 벽 패널이 고장 난 곳을 스스로 찾아 사람의 보수를 돕는 표면을 꼽았습니다. 먼 시기의 후보는 스마트 소재, 자율 건설, 원격 점검, 우주 시스템입니다.

코드와 회로 설계는 깃허브에, 실험 데이터는 figshare에 공개됐고 논문은 오픈 액세스로 누구나 읽을 수 있습니다. 사카나는 이 연구를 소프트웨어에서 다뤄 온 집단 지능을 물리 세계로 옮기는 첫걸음이라고 불렀습니다. 4년 사이 타일 20장이 큐브 200개 가까이로 늘었지만, 블록을 옮겨 붙이는 일은 아직 사람 손에 있습니다. 작동 장치를 단 큐브가 나오면 다시 전하겠습니다.

읽어 주셔서 고맙습니다.

초이 드림