AI 의료 기록, 누가 물어보기 전에 감사 추적(Audit Trail)을 지금 잡아야 하는 이유

왜 지금, AI 감사 추적이어야 하는가

미국의 의료 AI 자문 회사 BRG의 상무 이사 토마스 O'닐 3세(Thomas F. O'Neil III)는 인터뷰에서 한 문장으로 정리했습니다. "제3자 도구가 초안을 작성했든 상관없이, 의료 시스템이 임상 기록을 소유하고 그에 대한 책임이 있다."

쉽게 말하면 의사가 앰비언트 AI 스크라이브(진료를 들으면서 자동으로 기록을 잡아주는 비서 AI, 이하 "AI 기록 도우미")로 차트 초안을 받고 서명해서 제출했다면, 그 문서는 그 순간부터 의료 기록이 됩니다. 누가·무엇을·언제 만들었든 환자의 진료 기록이라는 사실은 변하지 않습니다. 따라서 모든 AI 생성 기록에는 "누가 이 자료의 책임자인가"를 명확히 지정해야 합니다.

"모든 AI 생성 아티팩트에는 조직 내 명시된 소유자가 있어야 한다." — Thomas F. O'Neil III, BRG

병원에 쌓이는 AI 데이터는 기하급수적으로 늘고 있습니다

• 임상 차트 — AI 기록 도우미가 만든 진료 노트, 음성 원본, 초안 버전
• 수익 사이클(revenue cycle, 진료비 청구·수금 전 과정) — AI가 짠 청구 코드와 청구서
• 운영 기록 — AI 모델 버전, 프롬프트(AI에 내린 지시문) 설정, 검증 결과
• 법무 자료 — 벤더 계약, 위험 평가, 사고 대응 로그

이 모든 데이터가 한꺼번에 쌓이는 곳이 바로 병원입니다. 문제는 "규제가 아직 확정되지 않았다"는 점입니다. Epstein Becker Green의 디지털 헬스 변호사 알라프 샤(Alaap Shah)는 이렇게 강조합니다.

"의료 AI의 규제 환경은 아직 진행 중이므로 규제 명확성을 기다리지 마십시오. 가장 엄격한 요건이 적용될 것처럼 지금 거버넌스 프레임워크를 구축하십시오."

AI가 무엇을 했는지 재구성하는 법

수년 뒤에 환자가 "그때 AI가 나를 잘못 진단했다"고 소송을 걸어왔다고 상상해 봅시다. 변호사 팀은 이렇게 물을 것입니다. "2026년 3월 15일 진료 때 귀病院이 사용한 AI 모델 버전과 프롬프트 설정이 뭐였습니까?"

이 질문에 답하려면 다음 세 가지가 모두 기록돼 있어야 합니다.

1. 모델 버전 — 어떤 AI 모델이 사용됐는지 (예: v3.2 → v3.3으로 업데이트)
2. 프롬프트 버전 — 모델에게 내린 지시문이 무엇이었는지
3. 설정값 — 온도(temperature, AI 답변의 무작위성 정도), 시스템 메시지 등 작동 조건

O'닐은 이를 "연쇄 보관(chain of custody)"이라 부릅니다. 자료가 만들어진 순간부터 임상의가 검토·승인·기각하기까지의 모든 단계를 변조 불가능한 로그로 남기는 것입니다. 만약 그때 AI가 "이 환자는 당뇨"라고 적었는데 의사가 "아니, 당뇨 전단계"로 수정했다면, AI 원본과 수정본 모두가 기록에 남아 있어야 누가 무엇을 바꿨는지 입증할 수 있습니다.

동의(Consent)는 별개의 층위

O'닐은 2026년 4월에 제기된 소송들을 지적합니다. 앰비언트 AI(진료 대화를 자동 기록하는 AI)가 환자의 동의 없이 의사와 환자의 대화를 캡처해 외부 서버로 보냈다는 주장입니다. 더 미묘한 사례도 있습니다. 환자 본인은 AI 기록 도우미에 동의했지만, 진료실에 같이 앉아 있던 가족은 동의하지 않은 경우입니다. 이런 상황에서는 주(state) 녹음법까지 고려해야 합니다.

인간 검토만으로는 부족합니다

O'닐은 현 상황을 "human-in-the-loop 격차"(인간 개입형 AI의 사각지대)라고 부릅니다. human-in-the-loop란 AI 결과물에 인간이 반드시 검토·승인하도록 설계하는 원칙인데, 현실에서는 "병원이 AI를 도입하는 속도가 거버넌스를 뒷받침할 인력과 정책을 구축하는 속도보다 빠르다"는 것입니다. 의사에게 "AI 결과를 검토하세요"라고만 말해서는 해결되지 않습니다. 정책·교육·능동적 모니터링이 함께 가야 합니다.

배포 전부터 시작하는 거버넌스 7단계

Epstein Becker Green의 의료법무 변호사 짐 플린(Jim Flynn)과 디지털 헬스 변호사 알라프 샤(Alaap Shah)는 AI 도입을 단순한 구매 결정이 아니라 임상적·법적·운영적 함의를 가진 거버넌스 결정으로 다루어야 한다고 말합니다. 다음 7단계는 AI를 실제 병원에 깔기 전에 반드시 완료해야 할 일입니다.

1단계 — AI 거버넌스 위원회를 만든다

이사회 또는 경영진(C-suite) 직속으로 법무·컴플라이언스·임상·IT·환자안전 리더가 한 자리에 앉는 위원회를 구성합니다. 이 위원회가 벤더 선정부터 사고 대응까지 모든 권한을 가져야 합니다.

2단계 — 벤더 주장을 그대로 믿지 않는다

벤더가 "우리 AI 정확도 98%"라고 하면, 병원에서 직접 다양한 인구집단을 대상으로 성능을 독립 검증합니다. 이 검증 결과를 문서로 남겨야 합니다.

3단계 — 허용 가능한 사용 범위(Guardrails)를 정의한다

AI를 어디까지 쓸 수 있는지 명확한 경계를 긋습니다. 예: "이 AI는 1차 진료 후속 노트 작성에만 사용, 진단·처방 결정에는 사용 금지".

4단계 — AI 전용 계약 조건을 넣는다

• 감사 권한(병원 감사팀이 벤더 데이터에 접근할 권리)
• 검증·성능 데이터 접근권
• 모델 업데이트 시 병원 통지 의무
• 환자 데이터를 벤더 모델 재학습에 사용하지 못하도록 하는 제한

5단계 — 보존 아키텍처를 분리한다

자료의 성격에 따라 저장소를 나눕니다.

6단계 — 정기 감사를 자동화한다

AI가 제안한 초안과 의사가 최종 승인한 노트를 자동으로 비교하는 파이프라인을 만듭니다. 편향·정확도·조직 정책 준수 여부를 분기마다 검토합니다.

7단계 — 사고 대응 프로세스를 미리 만든다

AI 오류가 발견되었을 때 누구에게 에스컬레이션(상급 보고)할지, 어떻게 조사할지, 환자·규제기관에 어떻게 통지할지 매뉴얼로 정해둡니다.

이사회가 반드시 짚어야 할 세 가지 질문

O'닐은 이렇게 경고합니다. "이사회는 AI를 IT 부서에만 맡길 수 없습니다." 거버넌스 위원회가 경영진을 제대로 질문할 수 있을 만큼 AI에 대해 소통할 줄 알아야(governance fluency) 합니다. 이사회가 분기마다 받아야 할 보고에는 다음 세 가지가 포함돼야 합니다.

1. 무엇을 보존했고 무엇을 삭제했는가? — 단순히 모든 자료를 영원히 남기는 게 목표는 아닙니다. 정책대로 무엇을 남기고 무엇을 버렸는지가 입증되어야 합니다.
2. 어떤 AI 도구를 신뢰하고 배포했는가? — 어떤 벤더의 어떤 버전을, 어떤 검증 후 승인했는지의 이력.
3. 결과에 대한 책임은 누구에게 있었는가? — AI 출력, 인간 검토, 최종 승인 각각의 책임자가 명확한가?

"일관되고 문서화된 거버넌스 프레임워크가 규제자 또는 원고 측 변호사들이 찾아왔을 때 조직의 가장 강력한 방어가 될 수 있다." — Jim Flynn, Epstein Becker Green

자주 묻는 질문(FAQ) 6가지

Q1. AI 감사 추적(audit trail)이 정확히 뭔가요?

AI가 보조한 임상 문서의 전체 수명주기(원본 AI 출력, 모든 인간 편집, 검토 임상의의 신원, 각 단계의 시각)를 변조 불가능한 타임스탬프 형태로 기록한 것입니다. 의료법·정보보호법에서 "누가, 언제, 무엇을 했는가"를 증명하는 핵심 도구입니다.

Q2. 앰비언트 AI 스크라이브와 일반 자동 완성 기능은 어떻게 다른가요?

앰비언트 AI 스크라이브는 진료실 대화를 수동적으로 청취해 자동으로 차트 초안을 만드는 독립 도구입니다. 일반 자동 완성은 의사가 타이핑하는 동안 다음 단어를 제안하는 보조 기능입니다. 전자는 별도 거버넌스 절차가 필요한 반면, 후자는 기존 EHR 기능에 포함됩니다.

Q3. 법적 보존(legal hold)이 뭔가요?

소송이나 규제 조사가 시작되면 법무팀이 "관련 기록은 절대 폐기하지 마라"라고 통지하는 절차입니다. AI 생성 기록도 예외 없이 대상이 됩니다. 평소부터 보존 일정에 따라 정리해 두면, 소송이 터졌을 때 "필요한 자료를 즉시 동결(freeze)할 수 있는 능력"이 결정적입니다.

Q4. human-in-the-loop만 잘 지키면 안전하다고 보면 되나요?

아닙니다. 인간 검토가 작동하려면 정책(언제 무엇을 봐야 하는지), 구현(UI에서 AI 원본과 수정본이 모두 보이는지), 능동적 모니터링(실제로 검토가 일어났는지 감사)이 함께 가야 합니다. 의사에게 "검토하세요"라고 한 줄 안내한 것만으로는 부족합니다.

Q5. AI 모델이 업데이트되면 어떻게 하나요?

AI 전용 계약에 "중대한 모델 변경 시 병원에 사전 통지"하는 조항을 반드시 넣어야 합니다. 동시에 병원은 자체 로그에 모델 버전·프롬프트 버전·설정값을 저장해, "그날의 진료 시점에 어떤 버전이 동작했는가"를 수년 뒤에도 재구성할 수 있어야 합니다.

Q6. 작은 병원도 거버넌스 위원회가 필요한가요?

형태는 다를 수 있지만 책임 소재는 반드시 명확해야 합니다. 1인 원장 병원이라면 원장 본인이 AI 도입·검증·감사의 책임을 지고, 외부 법률 자문과 분기마다 점검하는 구조면 됩니다. "아무도 책임지지 않는 구조"만 피하면 됩니다.

오늘 당장 실행 가능한 체크리스트

본 기사의 전문가 권고를 종합해, 병원이 이번 주 안에 시작할 수 있는 10가지 항목을 정리했습니다.

📋 병원 AI 거버넌스 10대 즉시 실행 항목

1. 현재 사용 중인 모든 AI 도구 목록 작성 (앰비언트 스크라이브, 청구 AI, 임상 결정 보조 등)
2. 각 AI 도구별 임상 책임자(owner) 지정 및 공지
3. AI가 만든 문서가 EHR 어디에·어떤 형식으로 저장되는지 확인
4. 모델 버전·프롬프트·설정이 시스템 로그에 남는지 기술팀에 확인
5. AI 전용 계약 조항 체크리스트(감사 권한·업데이트 통지·훈련 데이터 제한) 마련
6. 보존 일정표에서 "AI 생성 아티팩트" 항목을 별도로 신설
7. 법적 보존(legal hold) 발생 시 AI 자료를 즉시 동결할 담당자 지정
8. 분기별 AI 거버넌스 보고 템플릿 작성(보존·삭제·배포·책임 항목)
9. 의사·간호사 대상 AI 문서 작성 교육에 "원본 vs 최종" 검토 절차 포함
10. 환자 동의서에 AI 기록 도우미 사용 항목 명시 (가족·제3자 동의를 별도로 분리)