서명은 설명을 대신할 수 없다[유소영의 의료×사회]

[유소영 서울아산병원 빅데이터연구센터 교수] 취업준비생 A씨가 대면이 아닌 인공지능(AI) 면접만으로 떨어졌다고 하자. A씨는 회사에 어떤 기준으로 평가했는지 설명을 요구할 수 있다. B씨는 건강검진 흉부 엑스레이에서 ‘폐 결절 의심’ 판정을 받고 컴퓨터 단층촬영(CT)을 권유받았다. AI 분석을 참고한 전문의가 B씨의 CT 결과지에 서명했다. B씨에게도 개인정보 보호법의 설명 요구권이 적용될까.

2024년 3월 시행한 개인정보 보호법의 ‘설명 요구권’은 자동화한 결정의 기준과 과정을 묻는 권리다. 현재는 AI 등이 개인정보를 처리해 사람의 실질적 개입 없이 내린 결정에 적용된다. 요구받은 기관은 정당한 사유가 없으면 설명해야 한다. 의사가 AI 결과를 실질적으로 검토해 판독했다면 이 조항의 대상은 아니다. 반면 형식적으로 승인만 했다면 서명이 있다는 이유만으로 자동화한 결정에서 제외되지는 않는다. 다만 이 조항이 적용되지 않는다고 의사의 설명 의무까지 없어지는 것은 아니다.

의료기관은 ‘최종 판단은 의사가 했다’고 답할 수 있다. 그러나 누가 판단했는지와 어떻게 판단했는지는 다른 질문이다. B씨는 AI가 어떤 이상을 표시했고 그 결과가 의사의 판독과 추가 검사 권유에 어떤 영향을 미쳤는지 알고 싶다.

AI는 도구일 뿐이라고 해도 그 영향까지 작아지는 것은 아니다. 2023년 독일 쾰른대병원 연구진은 영상의학과 의사 27명에게 AI의 제안이라며 유방촬영 영상의 판정등급을 보여 줬다. 학술지 ‘레디올로지’에 실린 이 실험에서 제안이 맞으면 약 80%를 정확히 분류했지만 일부러 틀린 제안을 주자 가장 숙련된 집단도 절반에 못 미쳤다. 직접 영상을 본 전문가도 AI를 과신하는 ‘자동화 편향’을 보였다.

환자는 결과지의 서명만으로 의사가 AI 결과를 실질적으로 검토했는지, 형식적으로 승인만 했는지 알기 어렵다. AI가 중요한 판단 근거였다면 AI가 제시한 결과도 설명에 포함해야 한다. 의료진이 왜 그 결과를 받아들이거나 달리 판단했는지까지 설명하도록 기준을 구체화해야 한다. 환자는 진료기록을 받아 볼 수 있지만 기록을 받는 것과 AI가 판독에 어떻게 쓰였는지 설명받는 것은 다르다.

답할 준비는 AI를 도입할 때부터 해야 한다. 의료기관은 판독에 AI가 쓰였다는 사실을 알리고 분석 결과를 자동으로 보존해야 한다. 의료진은 중요한 판독 근거를 기존 진료기록에 남겨야 한다. 의료진이 AI 결과를 이해하고 설명하는 데 필요한 성능·한계 정보와 기록 조회 기능은 개발·공급사가 제공하도록 도입 계약에 명시해야 한다.

기록 방식도 판단을 바꿀 수 있다. ‘AI와 다르게 판단한 이유’ 칸만 두면 AI를 따를 때는 추가로 쓸 것이 없고 다른 판단을 하면 서류가 늘어난다. 기록 부담이 AI를 따르도록 부추길 수 있다. 중요한 판단은 AI를 따랐든 아니든 같은 기준으로 의학적 근거를 남겨야 한다.

의료기관은 환자의 질문에 답할 담당자와 절차를 정하고 필요한 자료를 개발·공급사로부터 확보해야 한다. 환자를 개발·공급사로 돌려보내서는 안 된다. 정부는 기록과 설명의 최소 기준을 마련해 어느 의료기관을 이용하든 환자가 필요한 설명을 받을 수 있도록 뒷받침해야 한다. 이 기준은 AI 결과가 판단에 미친 영향을 반영해야 한다. AI의 분석이 판독 내용이나 추가 검사 권유에 쓰였다면 환자에게 설명할 내용과 의료기관이 남길 기록도 그만큼 구체적이어야 한다.

묻지 않는 환자도 보호받아야 한다. 의료기관과 개발·공급사는 실제 진료에서 AI가 이상을 놓치거나 불필요한 검사를 늘리지는 않는지 점검해야 한다. B씨는 AI의 분석이 자신의 판정에 어떻게 쓰였는지 알 수 있어야 한다. ‘전문의가 판독하고 서명했다’는 답으로 질문이 끝난다면 서명은 환자를 지키는 장치가 아니라 AI의 역할을 가리는 장치가 된다. 서명은 설명을 대신할 수 없다.