AI기본법, 과방위 소위 문턱 넘어…'고영향AI' 과태료 최대 3000만원

[이데일리 김현아 IT전문기자] 국회 과학기술정보방송통신위원회 정보통신방송법안심사소위원회가 21일 오전 회의를 열어 ‘AI 기본법’으로 상정된 19개 법안을 병합 심리한 후 통과시켰다. 이에 따라 21대 국회에서 처리되지 못했던 AI 기본법이 연내 국회를 통과할 가능성이 커졌다.

트럼프 행정부 출범 이후 미국의 AI 규제 완화로 글로벌 빅테크들의 기술 독점이 심화될 전망인 가운데, 우리나라 역시 AI 산업 육성 및 활용 촉진을 위한 중요한 기반을 마련한 것으로 평가된다.



주요 내용은 △금지 AI에 대한 규정을 제외하고 △위험기반 규제를 도입해 고영향 AI에 대한 사업자 책임을 신설한 것이다. 고영향 AI는 의료기기, 에너지 등 분야의 인공지능 중 사람의 생명·신체, 기본권의 보호에 중대한 영향을 미칠 우려가 있는 영역에서 활용되는 인공지능인데, 이에 대한 사업자 책임 조항이 추가됐다. 사업자가 고영향 AI를 이용자에게 고지하지 않거나 정부 시정명령을 따르지 않으면 3000만원 이하의 과태료를 받는다. 생성형 인공지능 사업자 역시 이용자에게 고지하지 않으면 3000만원 이하의 과태료를 해야 한다.

다만, 고영향 AI에 대한 정의는 명확히 규정되어 기업들이 혼란을 겪지 않도록 했다. 기업은 자사가 제공하는 AI가 고영향 AI에 해당하는지 과학기술정보통신부 장관에게 자율적으로 확인을 요청할 수 있으며, 장관이 고영향 AI로 인정하면 안전성 및 신뢰성 검증을 요구할 수 있다.

이는 일부 법안에서 주장했던 금지되는 AI에 대한 규정이나 고영향 AI의 검·인정 의무 위반 시 형사처벌, 5000만 원 이하 과태료 등에 비해서는 완화된 것이다.

글로벌 빅테크, 국내 대리인 지정해야

이 법안은 국외에서 이뤄진 행위라도 국내시장·이용자에게 영향을 미치는 경우 적용되며, 이용자수와 매출액 등이 일정 기준을 넘는 오픈AI, MS와 구글 등 빅테크들은 국내 대리인을 지정해 정부의 안전성ㆍ신뢰성 확보 조치의 이행에 필요한 지원을 해야 한다. 대리인 지정을 하지 않으면 3000만원 이하의 과태료를 내야 한다.

과기정통부 장관은 3년마다 인공지능 기본계획을 국가인공지능위원회 심의·의결을 거쳐 수립·시행한다. 대통령 소속 국가인공지능위원회(위원장 : 대통령, 부위원장 : 민간위원) 내 전문 분야별 업무를 수행하기 위한 분과위원회 및 자문단 구성할 수 있고, 인공지능정책센터 및 인공지능안전연구소 설립 조항도 담겼다.

AI인프라 투자 지원도 포함

법안에는 AI 컴퓨팅 인프라 투자를 촉진할 유인책도 포함됐다. 기업들의 AI 데이터센터(AI DC) 투자를 독려하기 위해 지역 균형 발전 지원, 행정적 및 재정적 지원 등 다양한 방안이 제시됐다.

인공지능협회 관련 조항도 포함됐으며, 대통령 소속 국가인공지능위원회 구성에 관한 논의는 진행 중이다. 소위는 국회 추천 인사 포함 여부에 대한 논의 끝에 이후 과방위 전체 회의에서 법안 의결시 최종 확정하기로 했다.

국회 관계자는 “EU법은 금지되는 AI의 범위를 규정하고 있지만, 급격히 발전하는 기술을 반영해 사전 금지 조항은 포함하지 않았다”면서 “고영향 AI에 대해서는 사업자 책임을 명시하되, 처벌보다는 정부의 가이드라인을 따르도록 했다”고 설명했다. IT 업계 관계자는 “법안이 진흥과 책무의 균형을 잘 맞춰 대체로 긍정적으로 평가된다”고 말했다.

국회 과학기술정보방송통신위원회는 지난 20일 AI 인프라 예산을 1조원 증액한 내년도 예산안을 의결했다. 정동영 예산소위 위원장은 “국가 AI위원회가 출범했지만 AI 관련 예산은 통상적인 예산 범위에 머물렀다”며 “그래픽처리장치(GPU) 구입 예산 3217억원과 제조업의 인공지능 전환을 위한 4500억 원 등 총 1조원을 증액했다”고 밝혔다.

정의 조항은?

법안에서는 인공지능, 인공지능시스템을 정의했다.

인공지능이란 학습, 추론, 지각, 판단, 언어의 이해 등 인간이 가진 지적 능력을 전자적 방법으로 구현한 것으로 했다.

인공지능시스템이란 다양한 수준의 자율성과 적응성을 가지고 주어진 목표를 위하여 실제 및 가상환경에 영향을 미치는 예측, 추천, 결정 등의 결과물을 추론하는 인공지능 기반 시스템으로 했다.

고영향 인공지능은 의료기기, 에너지 등 분야의 인공지능 중 사람의 생명·신체, 기본권의 보호에 중대한 영향을 미칠 우려가 있는 영역에서 활용되는 인공지능이다.

생성형 인공지능은 입력한 데이터의 구조와 특성을 모방하여 글, 소리, 그림, 영상 등 다양한 결과물을 생성하는 인공지능 시스템이다.