AI정책

그는 인류 멸종과 같은 극단적인 공포를 조장하는 움직임이 “경쟁자들을 배제하기 위한 규제를 만들도록 로비스트들을 설득하려는 목적”이나 홍보용 PR에 가깝다고 꼬집었습니다.

실제로 다뤄야 할 문제는 파멸 시나리오 대신 사이버 보안 같은 현실적 위험이라는 설명입니다.

앤드류 응 교수는 과도한 공포 마케팅이 기술 발전을 가로막는다며, “AI를 혁신하고 이를 통해 이뤄낼 수 있는 수많은 긍정적인 일들에 AI를 활용해야 한다”고 강조했습니다.

그는 초지능 도달 시점이 과거의 예측(30~50년)에서 불과 ‘몇 년’ 수준으로 앞당겨졌다고 지적했습니다.

가장 큰 원인으로는 AI가 스스로 더 뛰어난 AI를 개발하는 “재귀적 자기 개선(Recursive self-improvement)” 단계에 들어섰다는 점을 꼽았습니다.

힌튼 교수는 최근 허깅페이스(Hugging Face) 탈주 사고를 “작은 체르노빌”에 비유하며, 통제를 벗어난 탈주 에이전트(Rogue agents)의 위험성을 지적했습니다.

빅테크 기업들이 가장 똑똑한 AI를 만들기 위한 속도전에만 매몰되어 있다고 비판하며, 통제 방안을 확보할 때까지 “개발 속도를 늦춰야 한다”고 강조했습니다.

그는 악의적 행위자가 AI로 대량 실업이나 사이버 공격을 일으키는 위험도 있지만, 더 본질적인 위협은 AI 자체가 인간보다 훨씬 똑똑해져 통제권을 쥐는 데 있다고 봤습니다.

초지능 단계에 이른 AI는 인간을 설득하는 능력이 압도적으로 뛰어나다는 이유입니다.

그는 “AI가 전원을 끄는 스위치를 쥐고 있는 인간을 설득해 스위치를 내리지 못하게 만들 것”이라고 강조했습니다.

그는 “첫 번째 방어선은 자신의 행동에 책임을 지는 것”이라며, 기업들이 세상의 10%를 파괴할 수 있는 기술을 만들었다면 민형사상 책임을 져야 마땅하다고 지적했습니다.

그러나 지금 AI 기업들이 사회적 규제를 요구하는 이유는 책임을 피하려는 것이라며, “정부에게 '제발 우리를 국유화해달라'고 요청하는 것과 같다”고 꼬집었습니다.

막대한 책임과 잠재적 영향 때문에 AI 산업은 일반적인 상장 기업 형태를 넘어 국가 주도 통제로 갈 수밖에 없다는 주장입니다.

포커의 법칙을 인용해 “상대방이 봉이라고 생각한다면, 바로 당신이 봉이다”라며 투자자들의 안일한 낙관론도 경계했습니다.

뉴욕시장 Zohran Mamdani는 최근 AI 안전 문제에 대한 연방정부의 대응이 부족하다고 비판했습니다.

Hugging Face 해킹 사건과 앤트로픽 관계자의 발언을 언급하며, AI 기업 곳곳에서 통제 문제 신호가 나온다면 정부도 그에 맞는 수준으로 대응해야 한다고 주장했습니다.

반면 트럼프 행정부는 중국과의 AI 경쟁에서 뒤처질 수 있다며 개발 속도를 늦추는 데 부정적인 입장입니다.

이제 AI 안전 문제는 기술 업계 내부 논쟁을 넘어 미국 정치권의 주요 쟁점으로 번지고 있습니다.

트럼프는 “강한 규제를 받으면 파산할 AI 기업들이 왜 스스로 규제를 요구하겠느냐”며 AI가 인류를 파괴하거나 세계를 장악할 것이라는 주장을 “사기”라고 표현했습니다.

또 중국은 AI의 미래를 막지 않을 것이라고 주장하며, 미국의 까다로운 인허가 때문에 구글이 핀란드에 대규모 시설을 건설하려는 상황에도 불만을 드러냈습니다.

특히 AI와 데이터센터를 “석유, 금, 다이아몬드, 인터넷보다 큰 역사상 최대의 경제 성장 엔진”이라고 표현했습니다.

트럼프에게 AI는 규제해야 할 위험 기술보다 중국과의 경쟁에서 절대 놓쳐서는 안 될 차세대 산업에 가까워 보입니다.