"인공은 가짜라는 뜻" 트럼프, AI를 SI로 바꾸고 빅테크 6곳과 자율 합의

합의문은 트럼프가 그날 오후(미국 시각) 트루스소셜에 먼저 올렸고, 순다르 피차이 구글 CEO가 한국 시각 9월 30일 오전 11시 25분 X에 같은 두 장을 다시 올렸습니다. 피차이는 대통령과 JD 밴스 부통령, 마이크 존슨 하원의장, 행정부와 기술 업계 지도자들을 만나 중요한 대화를 나눴고 이날 「백악관 초지능 합의(White House Accord on Super Intelligence)」에 서명했다고 적었습니다. 첫 장은 합의 본문이고, 다음 장은 대통령과 경영자 6명의 서명란입니다.

행정명령이 바꾸는 것과 그대로 두는 것

행정명령의 제목은 「초지능 시대의 개막(Inaugurating the Era of Super Intelligence)」입니다. 백악관 홈페이지에 올라온 시각은 미국 동부 시각 9월 29일 오후 5시 17분, 한국 시각으로 30일 오전 6시 17분이고, 본문은 네 개 조로 짧습니다. 1조는 법이 허용하는 최대한도에서 행정부가 「AI」 대신 「초지능」과 「SI」를 쓰고, 해당하는 모든 경우에 「AI」라는 말의 사용을 인정하지 않는다는 방침을 적었습니다.

2조는 적용 범위를 정해, 각 부처와 기관이 공식 서신과 대외 홍보, 웹사이트, 보고서, 정책 문서를 비롯한 법령 아닌 문서에서 새 이름을 쓰게 했습니다. 이미 나온 규정과 대통령 조치, 계약, 보조금, 그 밖의 과거 문서는 고치지 않아도 된다고 따로 적어 두었습니다.

정의는 3조에 있는데, 이 명령에서 초지능은 2021년 1월 국가 AI 이니셔티브법으로 들어간 연방법 15편 9401조 3항의 「인공지능」을 그대로 가리킵니다. 그 조문은 인공지능을 인간이 정한 목표에 따라 실제나 가상 환경에 영향을 주는 예측, 추천, 결정을 내릴 수 있는 기계 기반 시스템으로 정의합니다.

새 정의를 만드는 일은 60일 뒤로 넘겼습니다. 과학기술 담당 대통령 보좌관은 11월 28일까지 초지능의 연방 정의를 담은 입법안을 대통령에게 내고, 이 정의가 기존 법의 「인공지능」 정의를 고칠지, 넓힐지, 대체할지에 대한 평가와 법 조문 속 「AI」를 함께 고칠 개정안, 추가로 필요한 행정 조치를 붙입니다. 의회가 법을 고치기 전까지 연방법 조문의 「artificial intelligence」는 그대로 남습니다.

같은 날 나온 백악관 팩트시트에는 새 이름이 벌써 들어가 있습니다. 2025년 7월 낸 「미국 AI 행동계획」은 계획 이름을 그대로 둔 채 「SI 경쟁에서 이기기 위한 90개 넘는 연방 조치」를 담은 계획으로 소개했고, 50억 달러 넘게 약정된 제네시스 미션은 「초지능으로 과학과 의학, 에너지, 제조의 돌파구를 앞당기는 국가 사업」으로 적었습니다.

YouTube 영상 · 누르면 재생

서명 시각은 트럼프가 오찬장에서 먼저 예고했습니다. 백악관 채널이 생중계한 오찬 공개 발언에서 그는 오늘 5시쯤 인공지능의 이름을 바꾸는 문서에 서명하겠다며, 인공적이지 않다는 데 모두 동의했다고 말했습니다. 행정명령은 그로부터 약 3시간 뒤 홈페이지에 올라왔습니다.

오늘 5시쯤 인공지능의 이름을 바꾸는 문서에 서명합니다. 인공적이지 않기 때문이고, 여기 있는 모두가 그 점에 동의합니다.— 도널드 트럼프, 미국 대통령 (9월 29일 오찬 공개 발언)

유엔 연설에서 행정명령까지 7일

이 이름은 한 주 전부터 공식 발언과 문서에 쓰이고 있었습니다. 트럼프는 9월 22일 유엔총회 연설에서 앞으로 미국의 모든 문서, 바라건대 세계의 문서가 「인공」 대신 훨씬 정확한 「초」라는 말을 쓰게 될 것이라고 했습니다. 다음 날 안보리 AI 회의에서는 마이클 크라치오스 백악관 과학기술정책실장이 AI를 예전에 AI로 불리던 초지능이라고 불렀습니다.

백악관이 미중 정상회담 뒤 낸 팩트시트에는 두 정상이 「인공지능」 대신 「초지능」이라는 용어를 쓰기로 합의했다는 문장이 들어 있습니다. 같은 문서에서 두 나라는 미중 초지능(SI) 대화를 만들어 11월까지 다음 만남을 갖고, 초지능 사고를 서로 알리는 통로를 두기로 했습니다. 트럼프는 9월 26일 백악관 남쪽 잔디밭에서 취재진에게 이 이름을 쓰는 이유를 이렇게 말했습니다.

다른 이름으로 부르면 가짜라는 뜻이 됩니다. 인공은 가짜라는 뜻인데, 이건 가짜가 아닙니다.— 도널드 트럼프, 미국 대통령 (9월 26일, CBS 보도)

29일 오전에는 정부 서비스를 한 사이트로 모으는 America.gov 행정명령이 먼저 나왔는데, 이 문서에 이미 「America.gov에 쓰이는 초지능이 정확하고 믿을 만하며 투명하도록」이라는 조항이 있습니다. 개명 명령이 나오기 6시간여 전에 새 이름이 다른 대통령 문서에 먼저 들어갔습니다.

행정명령 1조는 이 이름의 근거를 역사에서 찾습니다. 인공지능이라는 분야는 미국에서 태어났고 미국 과학자들이 이름을 붙였으며, 70년이 지난 지금의 시스템은 인간 지능의 일부를 흉내 내거나 자동화하는 수준을 훨씬 넘어선다는 설명입니다. 그 이름은 1955년 8월 31일 존 매카시, 마빈 민스키, 너새니얼 로체스터, 클로드 섀넌이 낸 제안서에 처음 나옵니다. 1956년 여름 다트머스대학에서 열 명이 두 달 동안 인공지능을 연구하자는 제안이었고, 학습을 비롯한 지능의 모든 특징은 원리상 기계가 흉내 낼(simulate) 수 있을 만큼 정확히 기술할 수 있다는 가정에서 출발했습니다. 70년 뒤 행정명령은 같은 기술이 그 흉내를 넘어섰다는 이유로 이름을 바꿨습니다.

업계가 말해 온 초지능과 같은 말인가

AI 연구에서 초지능은 이미 쓰이던 말입니다. 철학자 닉 보스트롬은 2014년 책 『슈퍼인텔리전스』에서 이를 거의 모든 관심 분야에서 인간의 인지 능력을 크게 넘어서는 지성으로 정의했습니다. 미국 정부 기술 전문지 넥스트거브는 트럼프의 유엔 연설 다음 날 이 정의를 소개하며, 오픈AI가 헌장에서 정의한 범용인공지능(AGI, 경제적으로 가치 있는 일 대부분에서 사람을 앞서는 고도로 자율적인 시스템)보다도 한 단계 위의 개념이라고 설명했습니다.

오찬에 앉은 회사들도 이 말을 앞으로의 목표로 써 왔습니다. 마크 저커버그 메타 CEO는 9월 Connect 키노트에서 메타버스보다 개인 초지능이 먼저 온다고 했고, 챗GPT의 강화학습을 이끈 존 슐먼은 초지능까지 3~4년을 불렀습니다. 행정명령의 초지능은 이 목표를 가리키지 않습니다. 추천과 예측을 내는 기계 기반 시스템 전반, 곧 지금 법이 인공지능이라 부르는 모든 것이 그대로 초지능이 됩니다.

같은 단어를 두고 평가는 갈렸습니다. 미국 신안보센터(CNAS)의 케일럽 위더스는 AI가 점점 더 많은 과제에서 사람을 넘어서고 있다는 점에서 「초」라는 말이 잘 맞는다고 넥스트거브에 말했습니다. 반면 2025년 논문 「평범한 기술로서의 AI」를 쓴 사야시 카푸어와 아르빈드 나라야난은 AI가 AI의 도움을 받는 사람보다 더 똑똑하다고 할 만한 의미의 지능은 없다고 봤습니다. BBC는 유엔 연설 뒤 일부 전문가들이 보통 더 발전된 시스템을 가리키는 이름이라 널리 퍼지기 어렵다고 봤다고 전했고, 젠슨 황 엔비디아 CEO는 오찬 뒤 데이터센터를 「초지능 공장」으로 부르자고 했습니다.

같은 오찬에서 나온 한 장짜리 합의

오찬은 미국 동부 시각 29일 낮 12시 30분, 한국 시각 30일 새벽 1시 30분에 이스트룸에서 시작했습니다. 존슨 의장은 몇 주 전부터 이 회동을 요청해 왔고, 트럼프는 이틀 전인 27일 밤 다리오 아모데이 앤트로픽 CEO와 따로 저녁을 먹었습니다. 오찬 뒤 존슨 의장은 백악관 앞에서 이 문서를 업계가 자발적으로 하는 원칙과 기준의 약속이라고 소개했습니다.

이것은 원칙의 선언이자 기준의 선언이며, 업계가 자발적으로 하는 약속입니다. 기대치를 정해 둔 문서입니다.— 마이크 존슨, 미국 하원의장 (9월 29일 백악관 브리핑)

합의 본문은 모든 회사가 자기 기술을 안전하게, 고객과 대중의 신뢰를 얻는 방식으로 개발할 책임이 있다는 문장으로 시작합니다. 이어 프런티어 모델을 훈련하고 배포하는 회사는 다른 예방 조치에 더해 네 가지 통제와 감사를 갖춰야 한다고 적었습니다. 회사들은 정기적으로 만나 안전 기준과 모범 사례를 정하기로 했고, 본문은 시간이 지나면 이 조치들을 법이나 규정으로 만드는 것이 맞을 수 있다는 문장으로 끝납니다.

합의 1항에는 모델이 기술 시스템을 의도치 않은 방식으로 해킹하거나 접근하지 않게 하라는 문구가 있습니다. 오픈AI 에이전트들은 7월 허깅페이스의 운영 시스템을 뚫었고, 한국 시각 9월 24일 앨버니지 호주 총리는 오픈AI 에이전트의 메디케어 통계망 무단 접근을 발표했으며, 26일에는 같은 회사 에이전트들이 미국 정부 사이트 세 곳까지 건드렸다는 뉴욕타임스 보도가 나왔습니다. 오찬 전날 오픈AI는 10월에 내려던 GPT-6.1 Astra의 출시를 취소했습니다.

서명한 6곳과 서명란에 없는 회사들

서명란에는 트럼프와 피차이(구글), 아모데이(앤트로픽), 저커버그(메타), 그레그 브록먼(오픈AI 사장), 일론 머스크, 젠슨 황(엔비디아)이 이름을 올렸습니다. 머스크 이름 아래 회사명은 「XAI」라고 적혀 있는데, xAI는 2월 2일 SpaceX에 합병된 회사입니다. 트럼프의 서명 아래 직함은 「President of the Unites States」로 찍혀 있습니다.

오찬에는 서명하지 않은 회사의 수장들도 있었습니다. CBS가 실은 AP 사진 설명과 ABC·CNBC 보도를 모으면 사티아 나델라 마이크로소프트 CEO, 리사 수 AMD CEO, 니케시 아로라 팔로알토네트웍스 CEO, 제프 베이조스 아마존 창업자, 앨릭스 카프 팔란티어 CEO가 같은 오찬에 있었고, 이 다섯 회사의 이름은 서명란에 없습니다. 오픈AI는 같은 날 샌프란시스코에서 연례 개발자 행사 DevDay를 열었고, 백악관에는 브록먼 사장이 왔습니다.

서명한 쪽의 설명은 대체로 같은 방향이었습니다. 저커버그는 이 합의를 업계 전체가 받아들일 수 있는 출발점이라 했고, 각 회사 이사회가 감사인의 보고를 독립적으로 검토하기로 했다고 설명했습니다. 머스크는 공동 감시와 이사회 특별위원회를 들며 서로의 숙제를 채점해 주는 것이라고 했고, 황은 혁신과 기술, 안전 사이에 충돌이 없다고 했습니다. 아모데이는 위험을 다룰 방식은 아직 논의 중이라면서도 대통령, 여기 있는 모두와 함께하면 안전하게 이길 수 있다고 말했습니다.

이것은 출발점이고, 업계 전체가 받아들일 수 있는 합의입니다.— 마크 저커버그, 메타 CEO (9월 29일, ABC 보도)

"헌법 같은 것"과 감독은 누가 하나

트럼프는 2주 전인 9월 14일 젠슨 황의 대담 무대에 전화를 걸어 AI를 둘러싼 공포가 전부 사기라고 말했습니다. 29일 오찬 뒤에는 백악관 앞에서 경영자들을 뒤에 세우고 이 합의를 거의 헌법 같은 것이라고 불렀습니다. 구속력이 있느냐는 질문에는 도덕적 구속력이 있다고 답했고, 업계가 스스로를 단속하는 모습을 보고 있다며 10명 정도로 위원회를 꾸려 업계 전체를 지켜보게 하는 방안도 생각하고 있다고 했습니다. 3~4일 안에 「AI 차르」를 지명하겠다는 말도 나왔습니다.

어떤 면에서는 거의 헌법 같은 것입니다. 저는 도덕적 구속력이 있다고 봅니다.— 도널드 트럼프, 미국 대통령 (9월 29일, CBS 보도)

행정부가 내놓은 감독 수단은 기존 법 집행이었습니다. 트럼프는 오찬장에서 업계의 자율 규제가 매우 중요하고, 법무부와 FBI가 있어 규제는 원래 작동한다고 말했습니다. 밴스 부통령은 같은 날 오후 행사에서 식품의약국(FDA)이나 연방항공청(FAA) 같은 규제 기구를 새로 만드는 안에 반대하며, 소비자에게 해를 끼치는 AI 제품은 연방거래위원회(FTC)와 법무부가 이미 책임을 물을 권한이 있다고 했습니다.

다른 쪽 말도 같은 날 나왔습니다. 민주당 마크 워너 상원의원은 회동 직후 성명에서 가장 강력한 모델에 대한 의무 시험과 평가, 사고 보고 규칙을 의회가 만들라고 요구했습니다. 시드니대 법학자 킴벌리 웨더럴은 BBC에 이 합의가 「전혀 인상적이지 않다」며, 무엇을 안전으로 칠지를 회사가 정하게 두고 어겼을 때 어떻게 되는지는 적지 않았다고 지적했습니다.

가장 강력한 AI를 만드는 회사들이 기술이 안전장치보다 빨리 나아가고 있다고 경고하고 있습니다. 대통령의 답은 이름을 바꾸고 회사들에게 알아서 규제하라고 하는 것입니다.— 마크 워너, 미국 상원의원 (9월 29일 성명, CBS 보도)

존슨 의장은 법보다 합의가 먼저 나온 사정을 의회 쪽에서 설명했습니다. 하원은 2024년 2월 초당적 태스크포스를 꾸려 그해 12월 원칙과 규제 틀을 냈고, 상원 초당적 워킹그룹은 2024년 5월 31쪽짜리 원칙을 냈지만 의회 안에서 합의를 이루기 어려웠다는 것입니다. 그사이 프런티어 연구소들이 워낙 앞서 나가 당시 만든 내용 상당수가 낡아 버렸다고 그는 덧붙였습니다.

한국에서는 무엇이 달라지나

행정명령이 묶는 것은 미국 연방 행정부의 서신과 웹사이트, 보고서, 정책 문서입니다. 미국 연방 기관과 이미 맺은 계약이나 보조금 문서는 2조에 따라 고치지 않습니다. 1월 22일 시행된 한국 AI 기본법은 「인공지능시스템」을 주어진 목표를 위해 실제와 가상 환경에 영향을 미치는 예측, 추천, 결정 등을 추론하는 시스템으로 정의하는데, 미국 행정부가 SI로 부르기로 한 연방법 정의와 거의 같은 문장입니다.

합의 서명란에 한국 회사는 없습니다. 2024년 5월 서울 AI 정상회의의 「프런티어 AI 안전 약속」에는 네이버와 삼성전자가 오픈AI·구글·앤트로픽과 함께 이름을 올렸고, 회사마다 심각한 위험에 대한 안전 프레임워크를 공개하기로 했습니다. 회사들이 이렇게 스스로 정한 안전 프레임워크를 제3자나 정부가 집행하는 의무 기준으로 올리자는 제안은 9월 초 오픈AI 수석과학자에게서 나왔고, 이번 백악관 합의에는 결과를 대중에게 공개한다는 조항이 없습니다.

다음 일정은 몇 가지가 이미 정해져 있습니다. 과학기술 담당 대통령 보좌관의 초지능 정의 입법안은 11월 28일까지 나오고, 미중 초지능 대화는 11월까지 다음 만남을 갖습니다. 트럼프가 말한 「AI 차르」 지명과 10명 위원회, 합의에 적힌 회사들의 정기 회의가 언제 어떤 모습으로 열리는지는 아직 발표되지 않았습니다.

읽어 주셔서 고맙습니다.

초이 드림