그는 현재 기업들이 일반 직업군을 하나씩 대체하는 대신 “AI 연구 개발 자체를 자동화하는 전략”을 취하고 있다고 설명했습니다.
수많은 AI 군집이 데이터센터 내에서 자율적으로 코드를 읽고 작성·수정하며 차세대 모델을 스스로 개발해 내는 구조입니다.
안전성과 품질 관리가 뒷전으로 밀린 채 개발 경쟁만 가속화되는 현 상황을 “공룡을 통제해야 하는 쥐라기 공원”에 비유했습니다.
코코타일로는 초지능이 완성되는 순간 “그 힘이 실물 경제 전체로 폭발하듯 뻗어나갈 것”이라 경고했습니다.
기업들이 일반 직업을 하나씩 대체하는 대신 AI 연구 개발부터 자동화하면, 일자리 통계에 변화가 잡히기 전에 모델 개발 속도가 먼저 빨라집니다.
그는 수조 달러가 들어가는 AGI 개발의 위험을 짚으며, 빅테크 기업들의 수장들이 AGI 개발 성공 시 “인류가 멸종할 확률을 10%에서 최대 50%까지 보고 있다”고 언급했습니다.
일부는 이를 주가 부양을 위한 거짓말로 치부하지만, 그는 1951년 앨런 튜링이 예견했듯 기계가 통제권을 쥐는 순간이 다가오고 있다고 봤습니다.
러셀 교수는 테크 기업들의 CEO들이 사석에서도 똑같은 두려움을 고백한다고 덧붙였습니다.
Choi
AGI를 만드는 회사 수장들이 스스로 멸종 확률을 10~50%로 보면서 수조 달러를 투자하고 있다는 지적입니다. 러셀은 이들이 사석에서도 같은 두려움을 말한다고 전했습니다.
매일 아침 AI 소식도 함께 와요. 언제든 그만 받을 수 있어요.
