AI 시대 디지털 포렌식 진화…'책임성 확보'가 핵심 과제로

[이데일리 황영민 기자] 인공지능(AI) 기술 발달로 인한 범죄 고도화와 이에 대응하기 위한 수사기술 책임성, 그리고 의료정보 보안 과제를 논의하기 위해 전문가들이 한 자리에 모였다.

(사진=한국범죄학회·AI스페라 제공)

한국범죄학회와 한국융합보안학회는 지난달 26일 대전 라마다호텔에서 공동 하계학술대회 특별세션을 열고 업계 전문가들과 함께 이같은 내용을 논의했다.

‘검찰의 포렌식과 한국사회보장정보원의 범죄예방기능’을 주제로 열린 이번 특별세션은 생성형 AI 확산과 디지털 전환으로 범죄 양상이 빠르게 변화하는 상황에서 AI 기반 수사기술의 활용 방향과 의료정보 보안 체계의 개선 과제를 모색하는 데 초점이 맞춰졌다.

첫 발표를 맡은 이정인 서울고등검찰청 수사관은 ‘AI-Native Digital Forensics with Human-in-the-Loop’를 주제로 생성형 AI를 활용한 디지털 포렌식의 발전 방향을 제시했다. 이 수사관은 AI가 방대한 디지털 증거를 신속하게 분석하는 데 효과적인 도구가 될 수 있지만, 수사의 최종 판단과 법적 책임은 반드시 인간 전문가가 담당해야 한다고 강조했다. 아울러 AI 분석 결과의 설명 가능성을 확보하는 설명가능 AI(XAI)와 인간 전문가의 검증 절차인 ‘휴먼 인 더 루프(Human-in-the-Loop·HITL)’ 체계 구축이 필수적이라고 설명했다.

이어 김유석 한국사회보장정보원 본부장은 의료기관을 겨냥한 랜섬웨어와 공급망 공격이 지속적으로 증가하고 있다며 의료정보 시스템 전반에 대한 보안 강화 필요성을 제기했다. 특히 의료영상저장전송시스템(PACS)은 의료영상과 환자 개인정보를 함께 처리하는 핵심 기반시설인 만큼 보안 침해가 발생할 경우 개인정보 유출은 물론 의료서비스 차질과 환자 안전 문제로까지 이어질 수 있다고 진단했다.

토론에는 강병탁 AI스페라 대표를 비롯해 임혜영 미국 앨라배마대학교 교수, 이도선 한남대학교 교수, 송봉규 한세대학교 교수가 참여해 AI 기반 디지털 포렌식의 책임성과 의료기관 정보보호 체계 고도화 방안을 논의했다.

임혜영 교수는 AI 기술 활용이 확대될수록 개인정보 보호와 사회적 신뢰 확보를 위한 제도적 기반 마련이 중요하다고 강조했다. 이도선 교수는 AI 분석 결과를 검증할 수 있는 수사관의 전문성과 표준화된 검증 절차가 함께 뒷받침돼야 한다고 제언했다. 송봉규 교수는 AI는 수사의 효율성을 높이는 보조 수단으로 활용돼야 하며, 최종 판단은 인간이 수행해야 한다고 강조하면서 국가 차원의 디지털 포렌식 체계 정비와 의료기관 보안 지원 확대가 필요하다고 밝혔다.

강병탁 AI스페라 대표는 “AI가 최종 판단자가 아닌 의사결정 지원 도구로 활용돼야 한다”며 “AI 기반 수사기술을 활용하더라도 최종 판단과 법적 책임은 사용자에게 귀속되는 만큼, 기술 도입 과정에서 책임성과 검증 체계를 함께 고려해야 한다”고 밝혔다.