젠슨 황 첫 X 글, 엔비디아·MS 등 25곳 "오픈 모델 성급한 규제 말라"

젠슨 황은 첫 게시물로 엔비디아가 서명한 서한, 곧 오픈 모델이 왜 중요한지를 다룬 서한을 공유한다고 적었습니다. AI가 모든 산업을 바꾸고 모든 회사를 움직이며 모든 나라가 직접 만들게 될 것이고, 오픈 모델은 안전과 사이버 보안을 강화하고 혁신과 확산을 앞당기며 각국의 AI 주권을 가능하게 한다는 내용입니다. 9분 뒤 사티아 나델라 마이크로소프트 CEO도 같은 서한을 올리며, 오픈웨이트 모델은 건강한 AI 생태계에 없어서는 안 된다고 썼습니다.

서한이 요구한 것

서한은 오픈웨이트 모델을 누구나 내려받아 들여다보고, 고치고, 자기 인프라에서 돌릴 수 있는 AI 모델로 정의합니다. 1980년대 오픈소스 소프트웨어 운동이 지금 인터넷 대부분과 미군, 연방기관의 시스템을 떠받치게 된 역사로 문을 열고, 미국의 AI 리더십은 프런티어 모델 한 개보다 모든 산업으로 퍼지는 개방된 생태계를 만드느냐로 평가받게 된다고 적었습니다. 서한의 주장과 요구를 항목별로 모으면 이렇습니다.

요구 문장의 원문은 keeping the frontier plural입니다. 경쟁을 억누르거나 혁신을 해외로 내모는 오픈 모델 제한을 서두르지 말라는 문장으로, 서한은 규제 자체를 부정하지 않고 시점과 범위를 문제 삼았습니다.

위험을 먼저 인정한 대목도 있습니다. 서한은 이점을 차례로 적은 뒤 문단 하나를 따로 떼어 위험을 이렇게 적었습니다.

오픈웨이트에는 실제로 뚜렷한 위험이 있습니다. 한 번 공개된 가중치는 원래 개발자의 통제를 벗어나고, 고친 버전은 추적하거나 되돌리기 어렵습니다.— 「오픈웨이트와 미국의 AI 리더십」 공동 서한, 7월 24일

서한은 위험을 인정하면서도 그 해법으로 금지를 고르지 않았습니다. 공격자가 첨단 AI를 쓰는 세상에서는 방어자도 비슷한 능력의 모델을 손에 쥐어야 위협을 찾아내고 흉내 내고 대응할 수 있다는 논리입니다. 폐쇄형 모델만 믿는 것도 안전하지 않다고 적었는데, 폐쇄형도 뚫리거나 오용될 수 있고 소수 모델에 능력이 몰리면 몇 곳의 실패가 전체의 실패가 된다는 이유였습니다.

마지막 요구는 증류(큰 모델의 출력을 받아 다른 모델을 학습시키는 기법)입니다. 서한은 증류가 모델 개선과 평가, 검증에 널리 쓰이는 기법이라며, 정책 결정자가 정당한 개발 기법과 도용을 뒤섞지 말라고 적었습니다. 폐쇄형 모델에서 불법으로 가치를 빼내는 일은 걱정할 만하지만, 그 문제는 기법 전체를 막는 규제 대신 표적을 정한 법과 계약으로 다루자는 요구입니다.

서명한 25곳

7월 24일 공개된 서한 원본에는 25곳이 이름을 올렸습니다. 성격별로 나누면 이렇습니다.

반도체 회사는 엔비디아 한 곳이고, 오픈AI와 구글, 앤트로픽, 아마존은 7월 24일 명단에 없었습니다. 서명사 다수는 모델 위에서 제품을 팔거나 모델을 내려받아 쓰는 쪽이고, 모델을 직접 만드는 곳으로는 가중치를 공개해 온 메타와 미스트랄이 들어갔습니다. 제목은 미국의 AI 리더십을 말하지만 프랑스의 미스트랄과 독일의 블랙 포레스트 랩스도 서명했습니다.

이틀 전인 7월 22일에는 새로 만들어진 리틀테크 연합이 스타트업 약 200곳의 이름으로 트럼프 대통령과 러트닉 상무장관, 크라치오스 실장에게 서한을 보냈습니다. 오픈 모델을 전면 금지하는 대신 표적을 정한 안전장치를 두자는 요구였고, 와이콤비네이터와 리플릿은 이틀 사이 두 서한에 모두 이름을 올렸습니다. 스타트업 쪽 서한은 큰 칼 대신 메스를 달라는 스타트업들의 요구에서 다뤘습니다.

하루 전 나온 Kimi K3 평가

서한 하루 전인 7월 23일, 영국 AI보안연구소(AISI)와 미국 상무부 산하 AI 표준·혁신센터(CAISI)는 Kimi K3의 사이버 능력을 함께 잰 예비 평가를 냈습니다. K3는 문샷AI가 7월 16일 공개한 모델이고, 누구나 내려받을 수 있는 가중치는 7월 27일까지 풀기로 예고돼 있었습니다.

시험은 둘이었습니다. ExploitBench는 카네기멜런대가 만든 공개 벤치마크로, 크롬의 V8 엔진에서 2023년 이후 나온 취약점 41개를 주고 공격 코드를 어디까지 완성하는지 잽니다. 다른 하나는 「The Last Ones」라는 모의 기업망으로, 서브넷 4개와 호스트 약 20대로 짜인 32단계 침투 경로이고 사람 전문가가 약 20시간 걸리는 규모입니다.

K3는 공격 코드 개발에서 미국 최상위 모델에 크게 뒤졌고, 표적 컴퓨터를 장악하는 마지막 단계인 임의 코드 실행은 41개 가운데 한 번도 해내지 못했습니다. 그런데 모의 기업망에서는 열 번 가운데 한 번, 1억 토큰 한도 안에서 32단계를 끝까지 완주했습니다. 두 기관은 K3의 안전장치가 공격 코드 개발과 공세적 사이버 작전 시도를 막지 않았다고 적었고, 비교 대상인 미국 모델은 시스템 단계의 안전장치를 끈 상태로 쟀다고 밝혔습니다.

하워드 러트닉 상무장관은 보고서가 나온 날 X에, CAISI의 최신 보고서를 보면 K3는 미국 최상위 프런티어 모델에 여전히 뒤처져 있다고 썼습니다. 미국이 최고의 혁신가와 기술자를 가진 덕분에 프런티어 AI에서 계속 앞서 있다는 글이었습니다.

격차는 4~7개월, 공개하면 되돌릴 수 없습니다

같은 기관은 그보다 일주일 앞선 7월 17일에 더 큰 틀의 숫자를 내놓았습니다. AISI가 처음 공개한 오픈웨이트와 폐쇄형의 사이버 능력 격차 분석에서, 6월에 나온 GLM-5.2는 좁은 사이버 과제에서 2월의 Opus 4.6, 긴 침투 과제에서 지난해 11월의 Opus 4.5와 비슷했습니다. AISI는 이 격차를 4~7개월로 잡았고, 2025년 대부분의 기간에 잰 6~10개월보다 좁아졌다고 적었습니다. 7월 23일 보고서에 실린 추세 그래프에서도 K3는 중국 모델 가운데 가장 위에 찍혔지만, 미국 추세선보다는 아래에 있습니다.

같은 보고서에는 서한이 인정한 위험이 더 강한 말로 적혀 있습니다. 오픈웨이트 모델이 공개되면 개발사가 쓸 수 있는 감시와 접근 통제, 모델 회수 같은 수단이 영구히 사라지고, 안전장치는 제거될 수 있으며, 복사본은 감시 밖의 개인 시스템에서 돌아갑니다. AISI는 위험한 능력을 가진 모델이라면 오픈웨이트 공개가 지속적이고 되돌릴 수 없는 오용 위험을 만든다고 썼고, 거부 훈련(해로운 요청을 거절하도록 가르치는 학습)은 가중치를 가진 사람이 쉽게 되돌릴 수 있다고 덧붙였습니다. 그리고 K3 가중치가 공개되면 같은 방식으로 다시 재겠다고 밝혔습니다.

서한이 나오기까지의 일주일

서한은 오픈웨이트를 둘러싼 논쟁이 일주일 사이 빠르게 번지던 한가운데 나왔습니다. 날짜를 나란히 적으면 이렇습니다.

7월 18일부터 20일까지의 과정은 딘 볼의 제안과 데이비드 색스의 반박을 다룬 글에 정리했습니다. 크라치오스 실장은 문샷이 탐지를 피해 접근 경로를 바꿔 가며 앤트로픽의 Fable을 대규모로 증류했다고 주장했고, 베센트 장관은 중국 기업의 미국 모델 증류를 조사하겠다며 제재 가능성을 꺼냈습니다. 그 이틀은 증류 의혹이 제재 언급으로 번진 과정에 정리했습니다. 서한의 증류 문단이 정당한 기법과 도용을 구분하자고 따로 적은 것도 이 흐름과 맞물립니다.

같은 보고서가 두 방향으로 쓰였습니다

7월 23일 평가는 두 쪽 모두의 근거가 됐습니다. 러트닉 장관은 K3가 여전히 뒤처져 있다는 대목을 골랐고, 규제를 검토하는 쪽에서는 좁혀지는 격차와 공개 뒤 사라질 안전장치가 근거였습니다. 한 보고서에 미국이 앞선다는 숫자와 격차가 줄고 있다는 숫자가 함께 들어 있기 때문입니다.

10번 중 1번이라는 완주 기록은 평균 점수로는 잘 잡히지 않는 위험입니다. 성공률이 10%라도 공격자가 열 번을 시도할 수 있으면 한 번은 성공하고, 시도 횟수는 방어하는 쪽이 정하지 못합니다. 두 기관도 이 결과를 두고 K3가 지시를 받고 초기 접근 권한을 얻으면 작고 방어가 약한 기업 시스템을 스스로 공격할 수 있다는 의미라고 적었습니다. 다만 모의 기업망에는 실제 방어자와 탐지 장비가 없고, 경보를 울릴 행동에 벌점도 없다는 조건을 함께 붙였습니다.

서명사들이 지키려는 것

서한이 내세운 논리는 원가와 선택권입니다. 모든 조직이 일에 맞는 모델을 맞는 값에 고르고, 프런티어급 능력은 진짜 프런티어 문제에 쓰고, 나머지는 효율적인 특화 모델로 돌려야 AI가 수십억 건의 일상 업무로 퍼질 때 경제적으로 버틸 수 있다는 문장이 서한에 들어 있습니다.

마이크로소프트는 이 논리를 이미 제품에 적용하고 있습니다. 서한 하루 전인 7월 23일, 마이크로소프트 AI는 엑셀과 GitHub Copilot에 넣은 자체 MAI 모델이 엑셀에서 가장 자주 쓰는 작업을 GPT-5.6과 대등한 품질로 더 싸게 처리했다고 공개했습니다. 그 결과는 엑셀 요청을 자체 모델로 옮기기 시작한 마이크로소프트에서 다뤘습니다. 오픈AI에 가장 많이 투자한 회사도 제품 안에서 모델을 갈아 끼울 수 있어야 원가를 쥘 수 있다고 계산하는 겁니다.

엔비디아의 계산은 결이 다릅니다. 엔비디아는 모델을 돌리는 칩을 파는 회사이고, 폐쇄형 연구소가 사들이는 물량도 이미 큽니다. 그래도 공개된 가중치를 각자 서빙하려는 기업과 클라우드, 국가가 늘어날수록 GPU를 사는 곳의 명단이 길어집니다. 젠슨 황이 첫 게시물에서 모든 나라가 AI를 직접 만들고 오픈 모델이 AI 주권을 가능하게 한다고 쓴 대목이 이 계산과 겹칩니다.

저는 이 서한에서 성능 경쟁보다 부품을 고를 권한을 둘러싼 다툼을 봅니다. 최고 성능 모델이 한두 곳에서만 나오면 그 공급사의 가격과 정책이 그 모델을 쓰는 모든 제품의 조건이 됩니다. 서명사들이 지키려는 것은 공급사를 바꿀 수 있는 선택지이고, 그 선택지는 가격을 깎는 도구이면서 공급사의 정책 변경에 대비하는 보험이기도 합니다.

한국 기업에 걸린 것

미국의 규제 범위는 한국 기업에도 넘어옵니다. 업스테이지는 이틀 전인 7월 22일 매개변수 2,500억 개의 Solar Open 2를 허깅페이스에 오픈웨이트로 공개했고, 이 모델은 정부의 독자 AI 파운데이션 모델 사업에서 나왔습니다. 규제가 중국산 모델만 겨냥하는지, 가중치 공개 행위 전반을 겨냥하는지에 따라 국내에서 만든 공개 모델이 받는 대우도 달라집니다.

모델을 받아 쓰는 쪽에서 보면, 고를 수 있는 모델의 목록이 길수록 가격이 오를 때 다른 모델로 옮겨 갈 수 있습니다. 오픈웨이트 규제는 미국 안의 논쟁이지만, 그 결과로 정해지는 목록의 길이는 목록을 쓰는 모든 나라의 회사에 그대로 옮겨집니다.

다음 기준일은 7월 27일입니다

문샷이 예고대로 7월 27일 K3 가중치를 풀면, AISI는 같은 방식으로 K3를 다시 재겠다고 밝혔습니다. 누구나 안전장치를 떼어 낼 수 있게 된 뒤의 측정에서 32.2%와 17단계가 얼마나 달라지는지가 그때 나옵니다.

워싱턴에서는 규제의 범위가 남은 물음입니다. 엔티티 리스트를 맡은 상무부는 7월 22일 기준으로 중국 AI 기업을 올릴 초안을 만들지 않은 상태였고, 백악관 검토가 중국산 오픈 모델에 그칠지 오픈 모델 전반으로 넓어질지는 정해지지 않았습니다. 25곳의 서한은 대형 기술 기업들이 그 범위가 정해지기 전에 함께 낸 입장입니다.

읽어 주셔서 고맙습니다.

초이 드림