누군가 묻기 전에, 의료 AI 감사 추적(Audit Trail)을 지금 구축하라

📅 🔄 ⏱️ 8분 읽기

AI가 생성한 의료 데이터가 빠르게 늘어나고 있습니다. 병원들은 “AI가 진료에 어떤 영향을 줬는가?”를 나중에 다시 설명할 수 있어야 합니다. 이를 위해 감사 추적(audit trail), 법적 보존(legal hold), 버전 관리, 출처 추적(프로비넌스 체인) 같은 거버넌스 체계를 지금부터 세워야 합니다. 규제 명확성이 오기를 기다리면 이미 늦습니다.

1. 왜 지금 의료 AI 감사 추적이 필요한가

의료 현장에서 AI는 더 이상 실험 단계가 아닙니다. 의사-환자 대화를 자동으로 듣고 차트(전자 의무기록)를 작성하는 앰비언트(ambient) AI scribe, 보험 청구 코드를 추천하는 도구, 영상 판독 보조 AI까지 다양한 영역에서 쓰이고 있습니다. 그런데 문제는 “AI가 만든 결과물을 누가, 어떤 책임 하에 보관하고, 어떻게 관리할 것인가”에 대한 규칙이 없다는 점입니다.

변호사들과 의료 거버넌스 전문가들은 오히려 “정해진 규칙이 없기 때문에, 병원이 스스로 방어 가능한 규칙을 지금 만들어야 한다”라고 강조합니다. BRG의 매니징 디렉터 Thomas F. O’Neil III는 이렇게 말했습니다.

“의료 시스템은 제3자 도구가 초안을 만들었든 안 만들었든, 임상 기록을 소유하고 책임집니다. 모든 AI 산출물에는 조직 안에서 명명된 소유자가 있어야 합니다.” — Thomas F. O’Neil III, BRG Managing Director

병원·의료 시스템이 지금부터 정의해야 할 7가지 요소를 정리하면 다음과 같습니다.

  • 📌 소유권 지정: 모든 AI 산출물에 책임자를 명명
  • 📌 기록 보존 일정(retention schedule): 채택된 기록과 과도기 자료(초안·오디오)를 구분
  • 📌 모델·프롬프트 버전 추적: 어느 버전이 언제 사용됐는지 기록
  • 📌 감사 추적(audit trail): 생성 → 검토 → 채택/거절까지의 흐름 보존
  • 📌 법적 보존(legal hold): 소송·감사 시 즉시 자료 동결 가능하도록 준비
  • 📌 환자 동의 관리: 진료실 가족·동반자 동의까지 포함
  • 📌 벤더 관리: 배포 이후 모델 변경 통지를 계약에 명시

2. AI가 무엇을 했는지 재구성하기

AI는 “한 번 설치되면 그대로”가 아닙니다. 벤더는 자주 모델을 업데이트하고 프롬프트 설정을 바꿉니다. 그러면 “같은 입력이어도 나중에 다르게 처리”될 수 있습니다. 만약 2년 전 진료 시점에 AI가 어떤 답변을 냈는지가 문제가 된다면, 그 당시의 모델 버전·프롬프트 버전·구성을 다시 재구성할 수 있어야 합니다.

“AI 도구가 모델을 업데이트하거나 논리를 바꿀 때, 병원·의료 시스템은 특정 환자 진료 시점에 도구가 무엇을 생성했는지를 재구성할 수 있어야 합니다.” — Thomas F. O’Neil III

이를 위해 다음 4가지가 필요합니다.

  1. 버전 관리(version control): 모델·프롬프트·구성 버전을 시점별로 기록
  2. 출처 추적 사슬(provenance chain): 외부 벤더 → 학습 데이터 → 모델 → 출력 → 의사 검토 → 채택까지 전체 이력 보존
  3. 관리 체인(chain of custody): 누가, 어떤 권한으로 자료를 다뤘는지 끊김 없이 기록
  4. 법적 보존(legal hold) 즉시 발동: 법률·컴플라이언스 팀이 클릭 몇 번으로 관련 자료를 동결할 수 있어야 함

여기에 환자 동의(consent) 문제가 겹칩니다. 2026년 4월에는 앰비언트 AI가 환자의 동의 없이 의사와 환자의 대화를 캡처해 오디오·전사 데이터를 외부 서버로 보냈다며 소송이 제기됐습니다. 더 미묘한 경우도 있습니다. 환자는 동의했지만 진료실에 함께 있던 가족은 동의하지 않았을 수 있습니다. 이런 경우 주(State) 녹음법과 프라이버시 규정을 위반할 위험이 생깁니다.

O’Neil은 이를 “휴먼 인 더 루프(human-in-the-loop) 격차”라고 부릅니다. “사람이 화면을 본다”는 것만으로는 충분하지 않으며, 정책·시스템·능동적 모니터링이 함께 갖춰져야 한다는 의미입니다.

3. 거버넌스는 배포 이전에 시작된다

Epstein Becker Green의 의료 변호사 Jim Flynn과 디지털 헬스 변호사 Alaap Shah는 “AI 도입은 조달 결정이 아니라 거버넌스 결정”이라고 강조합니다. 따라서 다음 5가지를 배포 이전에 준비해야 합니다.

  • ⚙️ 이사회·C수준 AI 거버넌스 위원회 설치 (법무·컴플라이언스·임상·IT·환자안전 리더 포함)
  • 🔬 독립 검증: 벤더 주장에 의존하지 말고 다양한 인구집단에서 성능을 직접 검증하고 문서화
  • 📑 AI 전용 계약 조항: 감사 권한, 성능 데이터 접근권, 모델 업데이트 통지, 학습 데이터 사용 제한
  • 🗂️ 보존 아키텍처 분리: 임상 문서 / 운영 거버넌스 기록 / 민감 개발 노트를 각각 다른 저장소에 분리 보관
  • 🚨 사건 대응 프로세스(incident response): 에스컬레이션 → 조사 → 법률 검토 → 이해관계자 통지 → 규제 보고 흐름을 사전에 정의

Shah의 조언은 단호합니다.

“규제 명확성을 기다리지 마십시오. 의료 AI의 규제 환경은 아직 진행 중입니다. 가장 엄격한 요구사항이 적용될 것처럼 지금 거버넌스 프레임워크를 구축하십시오.” — Alaap Shah, Epstein Becker Green Digital Health Lawyer

4. 이사회는 문제를 위임할 수 없다

AI는 더 이상 의사 노트 작성에만 쓰이지 않습니다. 수익 주기 관리, 재무, 법무 운영 등 환자 정보를 다루는 거의 모든 기능으로 확장되고 있습니다. 따라서 AI 거버넌스는 “새로운 문서화 워크플로”가 아니라 “보존·접근·책임성 규칙이 모두 달라지는 조직 전체의 문제”가 됩니다.

그렇다면 이사회는 어떻게 해야 할까요?

  • 👀 AI를 IT 부서에만 맡기지 않기: 거버넌스 기구는 경영진을 질문하고, 통제가 실제로 작동하는지 확인해야 함
  • 🧑‍⚖️ 내부 전문성이 부족하면 외부 자문을 활용 (의료 AI 변호사, 임상 AI 컨설턴트)
  • 📊 변화 속도를 고려해 분기별 보고 체계를 수립
  • 🎯 목표는 “모든 바이트를 영원히 저장”이 아니라, “수년 후에도 무엇을 보관·삭제했고 누가 책임졌는지 입증”할 수 있는 상태
“일관되고 문서화된 거버넌스 프레임워크는 규제 당국이나 원고 측 변호사가 찾아왔을 때 조직의 가장 강력한 방어가 됩니다.” — Jim Flynn, Epstein Becker Green Managing Director

5. 꼭 알아야 할 핵심 용어 10선

이 글에 자주 등장하는 용어를 한 번에 정리했습니다. 의료 AI 도입을 논의할 때 같은 언어로 소통하기 위한 최소 사전입니다.

용어 1감사 추적 (Audit trail) — 시스템 안에서 일어난 모든 활동을 시간 순서로 남긴 보안 로그. 의료 AI에서는 모델 변경, 프롬프트 버전, 의사 검토 단계까지 끊김 없이 추적하는 것을 의미합니다.
용어 2법적 보존 (Legal hold) — 소송·감사·규제 조사가 예상되거나 진행 중일 때, 일반 보존 기간과 무관하게 관련 자료를 삭제·변경하지 않고 동결하는 조직 내부 절차입니다.
용어 3휴먼 인 더 루프 (Human-in-the-loop, HITL) — AI가 만든 결과를 사람이 반드시 검토·승인·거절하도록 개입시키는 통제 구조. 단순히 화면만 보는 것은 포함되지 않습니다.
용어 4출처 추적 사슬 (Provenance chain) — AI 결과물이 외부 벤더 → 학습 데이터 → 모델 구성 → 출력 → 의사 검토까지 어떤 경로로 만들어졌는지 그 전체 이력.
용어 5앰비언트 AI (Ambient AI) — 사용자가 의식하지 않아도 환경에 녹아들어 동작하는 AI. 의료에서는 의사-환자 대화를 자동으로 듣고 차트를 작성하는 scribe가 대표적입니다.
용어 6기록 보존 일정 (Records retention schedule) — 어떤 종류의 기록을 얼마나 보관할지 미리 정해둔 문서. 채택된 임상 결과물과 초안·오디오 같은 과도기 자료는 서로 다른 기간을 적용합니다.
용어 7사건 대응 프로세스 (Incident response) — AI가 잘못된 결과를 내거나 편향이 발견됐을 때 탐지 → 조사 → 에스컬레이션 → 법률 검토 → 통지 → 규제 보고까지의 일련의 절차.
용어 8버전 관리 (Version control) — 소프트웨어뿐 아니라 AI 모델·프롬프트·설정의 변경 이력을 추적하고, 특정 시점에 어떤 버전이 사용됐는지 식별할 수 있게 하는 관리 체계.
용어 9임상 거버넌스 / AI 거버넌스 (Clinical / AI governance) — 의료 서비스의 품질·안전·책임성을 지속적으로 확보하기 위한 의사결정·통제 체계. AI 거버넌스 위원회는 이사회·C수준에 둡니다.
용어 10관리·소유 체인 (Chain of custody) — 데이터나 증거가 생성부터 검토·수용·파기 또는 법적 보존 단계까지, 누가 어떤 권한으로 다루었는지 끊김 없이 기록한 것. 변조·훼손 방지의 핵심입니다.

6. 자주 묻는 질문 (FAQ)

Q1. 의료 AI 감사 추적이 정말 지금 필요한가요?

네. AI 도입 속도가 규제 속도보다 빠르기 때문에, 병원이 자체적으로 “방어 가능한 규칙”을 지금 만들지 않으면 소송·규제 조사 시 입증 책임을 지게 됩니다.

Q2. 앰비언트 AI scribe의 가장 큰 리스크는 무엇인가요?

환자 본인은 동의했지만 진료실 가족은 동의하지 않은 경우, 그리고 AI가 캡처한 오디오·전사 데이터가 외부 서버로 전송되는 경우입니다. 2026년 4월에는 환자의 동의 없이 대화를 캡처했다며 소송이 제기된 사례가 있습니다.

Q3. 규제 명확성이 올 때까지 기다려도 되나요?

아닙니다. 전문가들은 “가장 엄격한 요구사항이 적용될 것처럼” 지금 거버넌스를 구축하라고 조언합니다. 연방 규칙과 주법이 파편화되어 있어 어느 한 기준만 기다리면 다른 기준에서 문제가 됩니다.

Q4. 모든 AI 데이터를 영원히 보관해야 하나요?

아닙니다. 채택·서명된 임상 결과물은 법정 의료 기록 보존 요건을 따르고, 초안·오디오 같은 과도기 자료는 더 짧은 보존 기간을 적용하되 그 근거를 문서화하면 됩니다. 핵심은 “무엇을 왜 보관·삭제했는지” 설명 가능한 상태입니다.

Q5. 소규모 병원도 AI 거버넌스 위원회가 꼭 필요한가요?

형태는 달라도 필요합니다. 내부 역량이 부족하면 외부 자문(의료 AI 변호사, 임상 AI 컨설턴트)을 활용해 “법무·컴플라이언스·임상·IT·환자안전” 관점을 모두 담을 수 있는 최소 거버넌스 기구를 갖추는 것이 안전합니다.

참고 원문: “Build the AI audit trail now, before anyone asks for it” — Healthcare IT News, 2026-09-02
기고: Bill Siwicki, 매니징 에디터
인용 전문가: Thomas F. O’Neil III (BRG), Jim Flynn·Alaap Shah (Epstein Becker Green)