아모데이, "AI가 인류 죽일 수 있나" 묻자…"동의하는 부분 많아"

[이데일리 방성훈 기자] “나는 제이콥(콕슨)에게 동의하지 않는 부분보다 동의하는 부분이 훨씬 많다.”

다리오 아모데이 앤스로픽 최고경영자(CEO)는 12일(현지시간) 미국 CNN방송과의 인터뷰에서 ‘인공지능(AI)이 모든 인류를 죽일 수 있다고 진심으로 믿느냐’는 질문에 이같이 답했다.

다리오 아모데이 앤스로픽 최고경영자(CEO). (사진=AFP)

최근 회사를 떠나며 AI의 위험성을 경고한 연구원의 의견을 상당 부분 인정한 것이다. 아모데이 CEO가 언급한 콕슨은 앤스로픽에서 AI 안전을 연구하다 회사가 무책임하게 행동하고 있다며 지난 8일 사직한 인물이다. 당시 콕슨은 “AI를 만드는 사람들은 AI가 이번 10년이 끝나기 전에 우리 모두를 죽일 수 있다고 진심으로 믿는다”고 적어 파장을 일으켰다. 그의 발언은 CNN과 폭스뉴스에 잇달아 소개되며 AI 안전 논쟁을 업계 밖으로 끌어냈다.

다만 아모데이 CEO는 개발을 무작정 늦추는 것이 답은 아니라고 선을 그었다. 그는 “너무 늦추면 엉뚱한 사람들이 기술을 손에 쥐게 될 것”이라며 “그러면 일이 잘못될 확률이 매우 높아진다”고 말했다. 이어 “결국 업계가 함께 움직여야 하고, 더 어렵겠지만 어느 정도는 세계가 함께 움직여야 한다”고 강조했다. 속도를 늦추는 쪽과 앞서가려는 쪽 모두 위험을 키울 수 있는 만큼 공동 대응이 필요하다는 논리다.

인터뷰를 진행한 앤더슨 쿠퍼 앵커는 아모데이 CEO가 제시한 해법을 두고 “결국 당신 회사와 다른 AI 기업 안에, 이상적으로는 세계적으로, 최소한 미국 안에서는 이를 감시할 관찰자를 두자는 것이냐”며 “직원 수준의 접근 권한을 갖는 사람들”이라고 되물었다.

인터뷰는 아모데이 CEO가 같은 날 자신의 웹사이트에 3800단어 분량의 에세이를 올린 직후 이뤄졌다. 그는 에세이에서 “우리는 AI 모델의 성능을 개선하는 속도를 늦춰야 한다”며 3단계 계획을 제시했다. 앤스로픽은 이 가운데 첫 단계를 먼저 이행하기로 했다. 외부 평가기관에 직원 수준의 상시 접근 권한을 주고 안전 조치를 제대로 지키는지, 사고는 없었는지 검증받겠다는 내용이다.

아모데이 CEO는 사람이 AI에 대한 통제력을 잃을 수 있다는 점도 인정했다. AI가 사이버공격과 생물테러, 심각한 경제 혼란에 악용될 수 있다는 점 역시 함께 거론했다.

그는 세계 최상위 AI 기업을 이끌면서도 기술 위험을 거듭 경고해와 업계 일각에서 ‘둠주의’라는 비판을 받아왔다. 파멸을 앞세워 공포를 키운다는 지적이다. 이번 인터뷰와 에세이로 그 논쟁은 다시 불붙게 됐다.