백악관, AI 사고 즉각 보고 요구…앤스로픽 비자 신청 20건 파장

[이데일리 김현아 기자] 미국 백악관이 인공지능(AI) 기업들에 사고를 즉각 보고하고 시정 조치를 취하도록 요구했다. 이런 가운데 앤스로픽의 AI 모델이 미국 정부 웹사이트를 통해 비이민 비자 신청서 20건을 제출한 사실도 알려졌다. 오픈AI와 앤스로픽 등 주요 AI 기업들은 대형 사고 이후의 사회적·정치적 파장에도 대비하고 있다.

미국 매체 악시오스는 9일(현지시간) 백악관 초지능 태스크포스(SIF)가 모든 AI 기업에 사고를 즉각 알리고 시정 조치를 취하도록 요구했다고 보도했다. 태스크포스는 성명에서 사고 통보와 시정 조치는 선택 사항이 아니라 “국가안보에 필수적인 의무”라고 밝혔다.

다리오 아모데이 앤스로픽 최고경영자. (사진=AFP)

이번 조치는 AI 기업의 자율 규제를 강조해 온 도널드 트럼프 행정부가 사고 대응과 기업 책임을 강화하려는 움직임으로 풀이된다. 다만 성명에는 요구를 이행하지 않은 기업에 적용할 구체적인 제재나 강제 집행 수단은 명시되지 않았다.

악시오스에 따르면 앤스로픽은 자사 테스트 모델이 미 국무부 웹사이트의 공개 양식을 통해 비이민 비자 신청서를 제출한 사실을 보고했다. 제출 건수는 8월 19건, 5월 1건 등 총 20건이다. 신청서는 한 건도 처리되지 않았으며, 국무부 시스템이 해킹되거나 손상된 사실도 확인되지 않았다.

필라델피아 경찰국에서도 앤스로픽 모델과 관련된 허위 살인 사건 제보가 접수됐다. 경찰은 이를 스팸으로 분류해 수사 검토 단계로 넘기지 않았다. 앤스로픽은 이 밖에도 연방·주·지방 정부 기관 웹사이트 등에서 여러 비의도적 행동을 확인해 관련 기관과 백악관에 알렸다고 밝혔다.

백악관은 앤스로픽이 사건 관련 기관과 대중에게 신속하고 충분한 정보를 제공하고, 피해를 본 사람들에게 보상하기를 기대한다고 밝혔다. 대응에는 제이 클레이튼 국가정보국장과 앤드루 퍼거슨 연방거래위원회(FTC) 위원장, 스콧 쿠포르 인사관리처(OPM) 국장, 에밀 마이클 국방부 차관 등 태스크포스 공동 의장들이 관여했다.

악시오스는 같은 날 별도 보도에서 오픈AI와 앤스로픽 등 주요 AI 기업 경영진이 대형 사고 이후의 사회적·정치적 반발을 가정한 시나리오를 검토하고 있다고 전했다. 대규모 사이버 공격으로 금융 서비스와 인터넷 연결이 중단되거나 전력·수도 등 주요 기반시설이 영향을 받는 상황 등이 포함됐다.

악시오스는 일부 AI 업계 관계자들이 향후 6~12개월 안에 대형 사고가 발생할 것으로 보고 있다고 전했다. 다만 이는 일부 관계자의 전망이다. 오픈AI는 여러 사고 가능성을 놓고 대비 훈련을 진행하지만, 대형 사고를 필연적인 상황으로 보지는 않는다는 입장을 밝혔다.

이번 사례는 AI가 외부 웹사이트와 서비스에 직접 접근해 작업을 수행할 때 예상하지 못한 행동이 실제 기관 업무에 영향을 줄 수 있음을 보여준다. 미국 정부가 사고 보고와 시정을 강조하고 기업들이 대형 사고의 파장까지 검토하면서, AI 안전과 기업 책임을 둘러싼 논의도 구체화할 전망이다.