AI 추천 상품서 손실 나면 책임은?…금융위, 규율체계 손질한다

[이데일리 임유경 기자] 인공지능(AI) 에이전트가 추천한 고위험 금융상품에 가입했다가 손실을 봤다면 책임은 소비자 본인에게 있을까, 상품을 골라준 AI에게 있을까. 금융당국이 이처럼 AI의 권한과 책임에 대한 새로운 쟁점들이 부상할 것에 대비해, 금융소비자보호법(금소법) 재정비에 나섰다.

11일 금융권에 따르면 금융위원회는 최근 ‘금융권 AI 에이전트 도입을 위한 규율체계 마련’ 연구용역을 발주했다. AI에 대한 권한위임과 책임분배 등 주요 쟁점을 검토해 새 규율체계 설계에 활용하기 위해서다. 최종보고 제출 기한은 12월24일이다.

AI는 사람의 판단을 지원하는 단계를 넘어 스스로 판단하고 실행까지 대신하는 에이전틱 AI로 진화하고 있다. 머지 않아 소비자가 주택담보대출 추천을 요청하면, AI가 가장 유리한 조건의 상품을 찾고 대출 실행까지 마치는 것도 가능해질 전망이다.

문제는 금융 분야 의사결정·실행 과정에 AI의 참여 범위가 확대되고 있지만, AI의 권한·책임에 대한 규율은 없다는 점이다. 현행 금소법도 인간만을 행위주체로 전제하고 있어 AI와 소비자의 상호작용에 대한 판단기준이 불분명하다.

금소법에 따라 금융상품판매업자는 적합성 원칙·적정성 원칙·설명의무·불공정 영업 행위 금지·부당 권유 행위 금지·허위 과장 광고 금지 등 6대 판매원칙을 준수해야 한다. 위반 시에는 관련 수입의 최대 50%의 과징금이 부과되고 소비자는 위법계약해지권을 행사할 수 있다.

하지만 의사결정 주체를 소비자로 보느냐 AI 운영사로 보느냐에 따라 판매원칙 준수 여부에 대한 판단이 달라지고, 소비자 보호에도 허점이 생길 가능성이 있다.

이에 금융위는 이번 연구용역을 통해 AI 에이전트 도입 시 핵심 리스크 및 법률·기술적 쟁점을 검토한다. AI 관여 정도를 고려해 차등적인 규율원칙을 설계하는 것이 목표다. AI에 위임가능한 권한의 범위와 위임 방식 등도 검토 대상이다.

또 AI의 행위 확대에 따른 금소법 적용범위 조정과 소비자 보호원칙 재설계 방향 마련도 과제로 명시했다. 금소법상 판매원칙과 사후 구제수단을 AI에 맞게 재편하고 보호원칙 추가 필요성을 함께 검토하도록 했다.

금융권에서는 이미 AI 에이전트 서비스가 등장하고 있다. KB국민은행은 지난달 “OO에게 5만원 보내줘”처럼 말하면 AI가 수취인과 금액을 찾아 이체를 처리하는 서비스를 내놨다. 신한카드는 지난 3월 AI가 교통편 예약부터 결제까지 마치는 서비스를 국내 카드사 처음으로 실거래에 적용했다. 다만 AI 에이전트 서비스로 발생한 민원과 분쟁 처리 기준은 아직 개별 회사의 몫으로 남아 있다.

최근 금융권에서 해킹으로 인한 정보 유출이 잇따르면서 AI에 어디까지 권한을 맡길지 정하는 과정에서 보안 요건의 무게가 한층 커질 전망이다. 금융위도 이번 연구에서 AI 특화 공격의 탐지·대응과 AI 보안체계 점검 방안을 함께 들여다볼 계획이다.

일각에선 이번 해킹 사태로 금융권의 AI 활용을 위한 망분리 규제 완화에 제동이 걸릴 수 있다는 우려도 나왔지만, 이억원 금융위원장은 지난 8일 국회 정무위원회의 금융위원회 국정감사에서 “보안을 전제로 망분리 규제 해제를 계속 추진하겠다”는 입장을 분명히 했다.