[AI기본법 인사이트]③기본법이 적용되는 세 가지 AI

[정세진 법무법인 율촌 변호사] “요즘 쓰는 인공지능 서비스도 법의 규제 대상이 될까?” “회사에 새로 도입한 AI 때문에 추가로 지켜야 할 의무가 생기지는 않을까?” 인공지능기본법 시행을 앞두고 자주 제기되는 질문이다. 인공지능이 일상과 업무 전반으로 빠르게 확산되면서, ‘모든 AI가 규제 대상이 되는 것 아닐지’에 대한 우려도 커지고 있다.

정세진 법무법인 율촌 변호사. (사진=본인 제공)

그러나 인공지능기본법은 모든 인공지능을 규제하지 않는다. 사회적 영향이 크다고 판단되는 고영향 인공지능, 생성형 인공지능, 고성능 인공지능이라는 세 가지 유형에만 일정한 의무를 부과한다. 이는 EU의 AI Act와의 가장 큰 차이점이다. EU AI Act는 인공지능을 위험 수준에 따라 단계별로 나누고, 사실상 대부분의 인공지능을 규제 범위에 포함한다. 반면 인공지능기본법은 문제가 될 가능성이 높은 AI만 관리하는 방식을 취한다. 규제 범위를 넓히기보다는, 실제로 위험이 발생할 가능성이 높은 영역에만 최소한의 안전장치를 두겠다는 접근이다.

따라서 고영향 인공지능, 생성형 인공지능, 고성능 인공지능이 무엇을 의미하는지 정확히 아는 것이 매우 중요하다.

먼저 고영향 인공지능은 ① 그 판단이나 결과가 개인의 권리·의무 또는 사회적 기회에 중대한 영향을 미칠 수 있는 인공지능을 말한다. 다만 인공지능기본법은 ② 이러한 인공지능이 금융, 고용, 교육, 의료 등 법에서 정한 특정 분야에서 활용되는 경우에만 고영향 인공지능으로 본다. 다시 말해, ①과 ② 요건을 모두 충족해야 고영향 인공지능이므로, 아무리 중요한 결정을 내리는 인공지능이라 하더라도 법이 정한 분야 밖에서 활용된다면 고영향 인공지능에 해당하지 않는다.

예를 들어 금융회사가 개인의 소득, 소비 내역, 신용정보 등을 종합해 대출 승인 여부나 한도를 자동으로 결정하는 인공지능을 활용하는 경우를 생각해 볼 수 있다. 이러한 인공지능은 법에서 정한 분야에 해당할 뿐만 아니라 개인의 경제적 기회에 직접적인 영향을 미친다. 따라서 분야 요건과 영향 요건을 모두 충족하므로, 고영향 인공지능에 해당할 수 있다.

두 번째는 생성형 인공지능이다. 이는 텍스트, 이미지, 음성, 영상 등 새로운 콘텐츠를 만들어내는 인공지능을 말한다. 대화형 챗봇, 그림 생성 AI, 음성 합성 AI 등이 대표적이다. 생성형 인공지능은 높은 편의성을 제공하는 동시에, 허위정보 확산, 저작권 침해, 딥페이크와 같은 새로운 위험을 만들어 낸다. 사람이 작성한 것인지 AI가 생성한 것인지 구분하기 어려워질수록 사회적 혼란이 커질 수 있으므로, 인공지능기본법은 생성형 인공지능을 규제 범위에 포함하고 있다.

마지막으로 고성능 인공지능은 학습 과정에서 사용된 누적 연산량이 일정 기준 이상인 인공지능시스템을 말한다. 고성능 인공지능은 고영향 또는 생성형 인공지능과 달리 해당 인공지능이 활용되는 업무나 용도를 구분하지 않고 규제대상에 포함된다. 이는 대규모 연산을 기반으로 한 확장성과 사회적 파급력으로 인해 인공지능 자체의 잠재적 능력에서 발생하는 위험이 크므로 사전적인 관리가 필요하다고 판단한 것이다.

그렇다면, 대규모 언어모델 기반의 AI 채용 평가·추천 인공지능 시스템은 이 세 가지 인공지능 중 어디에 해당할까? 대규모 언어모델을 사용하므로 누적 연산량이 일정 기준 이상일 테니 고성능 인공지능이라고 결론을 내린다면 충분한 답이 아닐 수 있다.

이러한 인공지능이 지원자의 이력서와 자기소개서, 면접 답변 등을 종합적으로 분석해 평가 의견과 추천 사유를 문장 형태로 생성한다면, 새로운 문장을 만들어내는 기능을 수행하는 만큼 생성형 인공지능에 해당한다. 나아가 이 시스템이 채용 과정에서 합격 여부나 우선순위 결정에 실질적으로 활용된다면, 그 판단 결과는 개인의 취업 기회에 직접적인 영향을 미치게 된다. 이 경우, 고영향 인공지능으로도 평가될 수 있다. 결국 이러한 인공지능은 고영향이면서 동시에 고성능이고 생성형인 인공지능에 해당할 수 있다.

따라서 세 가지 유형이 서로 완전히 분리된 개념이 아니라는 점에 주의할 필요가 있다. 하나의 인공지능이 복수의 요건을 동시에 충족하는 경우도 충분히 존재할 수 있으며, 그때에는 각각의 유형에 부과되는 의무가 모두 적용될 수 있다.

한편, 이 세 가지에 해당하지 않는 인공지능은 인공지능기본법상 직접적인 의무 대상이 아니라는 점도 중요하다. 처음의 질문으로 돌아가 보면, 요즘 사용하는 인공지능 서비스나 회사에서 새로 도입한 인공지능이 문제될지 여부는 해당 인공지능이 고영향·고성능·생성형 인공지능 중 어느 하나에 해당하는지를 먼저 따져보는 데서 출발해야 한다. 그중 하나에 해당하는 경우에는 법 적용 대상이 되지만, 그렇지 않다면 인공지능기본법에 따른 직접적인 규제 대상에는 해당하지 않는다.

■정세진 변호사 △고려대학교 전기전자전파공학 졸업 △한국과학기술원(KAIST) 전기 및 전자공학 석사 졸업 △성균관대학교 법학전문대학원 석사 졸업 △고려대학교 정보보호대학원 박사과정 수료△前김앤장 법률사무소 변호사 △現 법무법인 율촌 변호사 △과학기술정보통신부 고문변호사 △개인정보보호위원회 고문변호사 △금융감독원 금융감독자문위원회 자문위원(디지털/IT분과)△사단법인 벤쳐기업협회 자문위원 △한국핀테크지원센터 혁신금융 전문위원 △한국금융연수원 겸임교수 △성균관대학교 법학전문대학원 겸임교수