규제

폴커 튀르크 유엔 인권최고대표가 현지 시각 5일 영국 옥스퍼드의 'AI와 인권 서밋' 연설에서 기업과 국가 사이의 "무자비한 경쟁" 속에 AI에 안전장치를 둘 시간이 얼마 남지 않았다고 경고했습니다.

그는 AI 개발과 사용에 인권 보호장치와 실사(due diligence)를 의무로 정하고, 기계가 누가 살고 죽을지 결정하지 못하도록 금지하는 조치를 서두르라고 촉구했습니다.

유엔 뉴스는 이 연설을 한국 시각 10월 6일 새벽 보도했습니다.

그는 초지능 도달 시점이 과거의 예측(30~50년)에서 불과 ‘몇 년’ 수준으로 앞당겨졌다고 지적했습니다.

가장 큰 원인으로는 AI가 스스로 더 뛰어난 AI를 개발하는 “재귀적 자기 개선(Recursive self-improvement)” 단계에 들어섰다는 점을 꼽았습니다.

힌튼 교수는 최근 허깅페이스(Hugging Face) 탈주 사고를 “작은 체르노빌”에 비유하며, 통제를 벗어난 탈주 에이전트(Rogue agents)의 위험성을 지적했습니다.

빅테크 기업들이 가장 똑똑한 AI를 만들기 위한 속도전에만 매몰되어 있다고 비판하며, 통제 방안을 확보할 때까지 “개발 속도를 늦춰야 한다”고 강조했습니다.

그는 “첫 번째 방어선은 자신의 행동에 책임을 지는 것”이라며, 기업들이 세상의 10%를 파괴할 수 있는 기술을 만들었다면 민형사상 책임을 져야 마땅하다고 지적했습니다.

그러나 지금 AI 기업들이 사회적 규제를 요구하는 이유는 책임을 피하려는 것이라며, “정부에게 '제발 우리를 국유화해달라'고 요청하는 것과 같다”고 꼬집었습니다.

막대한 책임과 잠재적 영향 때문에 AI 산업은 일반적인 상장 기업 형태를 넘어 국가 주도 통제로 갈 수밖에 없다는 주장입니다.

포커의 법칙을 인용해 “상대방이 봉이라고 생각한다면, 바로 당신이 봉이다”라며 투자자들의 안일한 낙관론도 경계했습니다.

트럼프는 “강한 규제를 받으면 파산할 AI 기업들이 왜 스스로 규제를 요구하겠느냐”며 AI가 인류를 파괴하거나 세계를 장악할 것이라는 주장을 “사기”라고 표현했습니다.

또 중국은 AI의 미래를 막지 않을 것이라고 주장하며, 미국의 까다로운 인허가 때문에 구글이 핀란드에 대규모 시설을 건설하려는 상황에도 불만을 드러냈습니다.

특히 AI와 데이터센터를 “석유, 금, 다이아몬드, 인터넷보다 큰 역사상 최대의 경제 성장 엔진”이라고 표현했습니다.

트럼프에게 AI는 규제해야 할 위험 기술보다 중국과의 경쟁에서 절대 놓쳐서는 안 될 차세대 산업에 가까워 보입니다.

데이비드 색스(David Sacks)는 두 기업이 시장 점유율과 수익에서 이미 독보적이며 다른 경쟁자들보다 “두 세대 앞서 있다”고 말했습니다.

막대한 경제적 우위를 점한 선두 주자들이 안전을 명분 삼아 개발 속도 조절을 주장하는 것은 경쟁사를 견제하기 위한 구실에 불과하다는 지적입니다.

색스는 “이것은 핑계이자 물물교환처럼 느껴진다”며, 기업들이 마땅히 져야 할 법적 책임과 제품 안전 의무를 다하기 위해 정부로부터 규제적 양보를 얻어내려는 시도라고 꼬집었습니다.

프론티어 AI 기업들의 정부 공조 요구는 안전성 확보의 탈을 쓴 ‘규제 포획’이며, 후발 스타트업의 혁신과 시장 경쟁을 가로막을 위험이 크다는 분석입니다.

JD 밴스 부통령은 파운데이션 AI 기업들이 정부에 찾아와 자신들을 규제해달라고 요구하는 상황이 이상하다며, 이를 “트로이 목마처럼 느껴진다”고 표현했습니다.

AI 위험을 강조하면서 강한 규제를 요구하면 규제를 감당할 수 있는 대형 기업들의 진입장벽으로 작용할 수 있다는 시각입니다.

밴스는 AI에 위험이 있다는 점은 인정하면서도 중국과 장기적인 AI 경쟁을 벌이고 있는 만큼 미국이 앞서가야 한다고 강조했습니다.

트럼프가 AI 위험론을 “사기”라고 부른 데 이어 밴스까지 규제론을 경계하면서, AI를 멈추는 대신 중국보다 먼저 가겠다는 미국 정부의 방향이 분명해지고 있습니다.