캘리포니아 의료 AI 규제 3법안, 뉴섬 주지사 서명 — 알고리즘 편향과 의료 기밀성 강화

캘리포니아 의료 AI 규제 3법안, 뉴섬 주지사 서명 — 알고리즘 편향·의료 기밀성 보호 강화

캘리포니아 주지사 개빈 뉴섬(Gavin Newsom)이 임상 진료에서 인공지능 사용을 제한하고 알고리즘 편향을 해결하기 위한 3개 의료 AI 법안에 서명했습니다. 동시에 의료 인력 보호와 정신 건강 의료의 AI 사용을 제한하는 2개 법안은 거부권(veto)을 행사했습니다.

게시: 최종 수정: 분류: 의료 정책

#의료AI #캘리포니아 #뉴섬 #알고리즘편향 #임상 의사결정 지원 시스템 #의료 기밀성

한 줄 요약

서명(3건): AB 1979(의료 기밀성 확대·임상 의사결정 지원 시스템 제한), SB 503(알고리즘 편향 점검 의무화), AB 1609(챗봇의 사람 사칭 금지).

거부(2건): AB-2575(AI 의료 종사자 고용 보호), SB-903(정신 치료 기능의 AI 사용 금지).

왜 중요한가?

이번 법안들은 미국에서 의료 AI가 "도울 것인가, 대체할 것인가"라는 오래된 논쟁에 대해 캘리포니아가 명확한 규칙을 제시했다는 점에서 의미가 큽니다. 특히 다음 3가지 변화가 핵심입니다.

  1. AI는 자문까지만: 면허 있는 의료 전문가의 임상적 판단을 AI가 대신할 수 없도록 제한합니다.
  2. 편향 점검 의무화: 개발자와 의료기관이 알고리즘 편향 위험을 발굴·완화해야 합니다.
  3. 환자 정보 보호: 챗봇으로 들어오는 건강 정보도 의료 기밀성법의 보호 대상이 됩니다.

서명된 3대 법안 핵심 내용

① AB 1979 — 의료 기밀성 확대 + 임상 의사결정 지원 시스템(CDSS) 제한

캘리포니아 간호사협회(CNA)가 발의한 이 법안은 가장 복잡하고 영향력이 큰 법안입니다. 핵심은 다음과 같습니다.

  • AI가 면허 있는 임상 기능을 수행하는 것을 금지하고, 역할은 자문(advice)으로 한정합니다.
  • 환자가 챗봇으로 접근하는 건강 정보도 의료 기밀성법의 보호를 받습니다.
  • 단순 임상 문서 작성·커뮤니케이션 등 전문적 판단이 필요 없는 용도는 면제됩니다.
  • AI 개발·배치자는 CDSS의 의도된 용도와 알려지거나 합리적으로 예측 가능한 위험을 문서로 공개해야 합니다.
"간호사들은 모든 싸움에서 항상 그래왔듯이 함께 힘을 모아 이 싸움에서 승리했다. AI는 우리 환자를 돌보는 간호사 및 의료 전문가의 임상적 판단을 대체하는 것이 아니라 뒷받침해야 한다."
— 샌디 레딩(Sandy Reding, RN), CNA 회장

② SB 503 — 알고리즘 편향 점검·완화 의무화

개인, 파트너십, 주·지방 정부, 법인 모두 개발자이면서 동시에 배치자가 될 수 있다는 점을 명확히 한 뒤, 다음 의무를 부과합니다.

  • 합리적인 노력으로 편향 영향을 유발할 수 있는 CDSS를 식별할 것.
  • 개발자는 알려졌거나 합리적으로 예측 가능한 편향 위험을 완화하기 위한 합리적인 조치를 취할 것.
  • 의료 제공자 등은 CDSS를 정기적으로 모니터링하고 편향 영향을 완화할 것.

③ AB 1609 — 챗봇의 사람 사칭 금지

대기업이 고객 서비스 챗봇을 사람이라고 표시하는 것을 금지합니다. 다만 의료 서비스의 제공·조정·관리·운영·지불 등 의료 전달 기능에 사용되는 병원·의료 시설 커뮤니케이션은 일부 면제됩니다. 환자 진료부터 보험 급여·청구까지 폭넓은 의료 전달 기능이 면제 범위에 포함됩니다.

3대 법안 한눈에 비교
법안주요 목적핵심 의무
AB 1979AI는 자문까지만, 환자 정보 보호의료 기밀성 확대, CDSS 임상 기능 수행 금지
SB 503알고리즘 편향 해결편향 식별·완화, 정기 모니터링
AB 1609챗봇 정체성 투명성사람 사칭 금지(의료 시설 일부 면제)

거부된 2대 법안

AB-2575 (CNA 발의): 임상의가 AI 출력을 무시하지 않은 것을 법적 변호로 사용하는 것을 제한하고, AI를 사용하는 의료 종사자에 대한 추가 고용 보호를 마련하려 했습니다. CNA 회장 샌디 레딩은 "주지사는 AI가 간호사의 임상적 판단을 절대 대체해서는 안 된다는 것은 알지만, 우리의 판단을 사용할 권리를 보호했을 법안은 거부했다"고 비판했습니다.
SB-903: 정신 건강 의료의 치료 기능에 AI가 사용되는 것을 금지하고, 정신 요법(psychotherapy)에서는 AI가 행정적·보충적 지원만 제공하도록 제한하려 했습니다.

더 큰 흐름: 미국 의료 AI 규제의 격랑

이번 캘리포니아 행보는 미국 전체의 AI 규제 파편화(federalism) 갈등 한복판에서 이뤄졌습니다.

  • 2025년 12월: 도널드 트럼프 대통령이 "최소한의 부담만 지우는 전국적 AI 표준"을 요구하는 행정명령(executive order)을 발표. "미국 AI 기업은 부담이 큰 규제 없이 자유롭게 혁신할 수 있어야 한다. 그러나 과도한 주 정부 규제는 이 필수 과제를 방해한다"고 강조했습니다.
  • 2026년 1월: 콜로라도의 의료 AI법을 포함한 주별 AI법이 발효되기 시작했습니다.
  • 의료 IT 업계 반응: 알테라 디지털 헬스(Altera Digital Health)의 리 버첼(Leigh Burchell) 부사장(HIMSS EHR 협의회 의장)은 "여러 주에서 서로 다른 규정이 나오고 있어 인증·컴플라이언스 관점에서 도전 과제가 크다"라고 말했습니다.

매트 사이불스키(Matt Cybulsky, 캐탈랜트 의료 부문 MD)는 임상 의사결정 지원 AI의 현주소에 대해 "신뢰성이 도입과 전달에서 여전히 가장 중요한 요소로 군림하고 있다"라고 진단했습니다.

한국 의료 AI에 시사하는 점

캘리포니아 사례는 한국 의료 AI 정책에도 세 가지 질문으로 다가옵니다.

  1. AI는 자문일까, 대체일까? — 우리 식약처·보건복지부의 의료 AI 가이드라인도 "임상 최종 판단은 의사"라는 원칙을 코드화할 필요가 있습니다.
  2. 편향 점검은 누가? — 개발사·병원·정부 중 어디가 1차 책임인지 명확한 책임 분배가 필요합니다.
  3. 챗봇이 환자 정보를 다룰 때: — 개인정보보호법·의료법상 민감정보 처리 규정을 챗봇 채널까지 확장 적용해야 합니다.

자주 묻는 질문 (FAQ)

Q1. 뉴섬 주지사가 서명한 의료 AI 법안은 정확히 어떤 것들이 있나요?

총 3건입니다. AB 1979(의료 기밀성 확대 + 임상 의사결정 지원 시스템 제한), SB 503(알고리즘 편향 점검·완화 의무화), AB 1609(대기업 챗봇의 사람 사칭 금지). 의료 기관 커뮤니케이션은 일부 면제됩니다.

Q2. 어떤 법안이 거부(veto)되었나요?

AB-2575(AI를 사용하는 의료 종사자 고용 보호 강화)와 SB-903(정신 치료·심리치료 기능의 AI 사용 금지) 두 법안은 주지사의 거부권으로 발효되지 않았습니다.

Q3. 알고리즘 편향(Algorithmic Bias)이란 무엇인가요?

AI가 학습 데이터나 설계 문제로 특정 인종·성별·사회계층에 불리한 결과를 체계적으로 만들어내는 현상입니다. 의료에서는 진단·치료 추천의 형평성 문제가 됩니다. SB 503호는 개발자와 의료기관에 편향 식별·완화 의무를 부과합니다.

Q4. 임상 의사결정 지원 시스템(CDSS)이란?

의사·간호사·환자에게 환자별 정보와 임상 지식을 제공해 진단·치료 결정을 돕는 의료 정보 기술입니다. 최근에는 AI를 활용해 임상 데이터를 분석하는 경우가 많으며, 캘리포니아 새 법안은 이 시스템이 면허 있는 임상 기능을 대신 수행하지 못하도록 제한합니다.

Q5. 의료 기밀성(Medical Confidentiality) 법은 챗봇에도 적용되나요?

예, AB 1979호로 확대 적용됩니다. 환자가 챗봇을 통해 공유하는 건강 정보도 캘리포니아 의료 기밀성법의 보호를 받습니다.

Q6. 캘리포니아 간호사협회(CNA)는 어떤 단체인가요?

미국 간호사협회(ANA)의 캘리포니아 주 지부입니다. 1896년에 결성된 ANA는 50개 주 지부를 둔 미국 최대의 간호사 권익 단체이며, 이번 AB 1979·AB-2575 두 법안 발의를 주도했습니다.

Q7. 왜 뉴섬 주지사는 정신 건강 AI 법안(SB-903)을 거부했나요?

법안 자체의 거부 사유는 별도 성명으로 자세히 공개되지 않았지만, 행정부가 정신 건강 분야에서 AI 활용을 완전히 금지하는 것은 환자의 치료 접근성을 해칠 수 있다는 판단이 작용한 것으로 해석됩니다. 다만 정신치료(psychotherapy)의 치료 기능 자체에 대한 AI 사용 범위는 향후 추가 논쟁이 예상됩니다.

Q8. 연방정부와 주정부의 AI 규제 충돌은 어떻게 되나요?

트럼프 행정부는 "최소 부담의 전국 AI 표준"을 행정명령으로 추진하며, 캘리포니아·콜로라도 등 주 규제를 주 상거래 침해 차원에서 압박하고 있습니다. 캘리포니아 주의회(하원 80석 + 상원 40석)는 민주당이 거부권 무력화 과반수를 보유해 향후 재의결 가능성도 남아 있습니다.

핵심 용어 한눈에 보기

알고리즘 편향 (Algorithmic Bias)
학습 데이터나 설계 문제로 AI가 특정 집단에 불공평한 결과를 체계적으로 산출하는 현상. 의료 AI의 형평성 문제를 일으킵니다.
임상 의사결정 지원 시스템 (Clinical Decision Support System, CDSS)
환자 데이터를 분석해 의료진에게 알림·권고안·임상 지침을 제공하는 의료 정보 기술. AI 기반이 많습니다.
챗봇 (Chatbot)
텍스트·음성으로 사용자와 대화하는 소프트웨어. AB 1609호는 대기업 챗봇이 사람이라고 표시하는 것을 금지합니다.
행정명령 (Executive Order)
미국 대통령이 연방 행정기관에 내리는 법적 지시. 트럼프 대통령은 2025년 12월 전국 AI 표준 행정명령을 발표했습니다.
거부권 (Veto)
주지사·대통령 등 행정부 수반이 의회 통과 법안에 서명 거부로 발효를 막는 권한.
HIMSS
미국 의료정보경영시스템학회. 1961년 설립된 의료 IT 비영리 단체로 10만 명 이상의 회원을 보유합니다.
CNA / ANA
캘리포니아 간호사협회 / 미국 간호사협회. ANA는 1896년 결성, CNA는 AB 1979·AB-2575 발의 주도.
정신치료 (Psychotherapy)
대화와 심리적 기법으로 정신건강 문제를 다루는 치료. SB-903호는 이 치료 기능의 AI 사용 금지를 추진했으나 veto되었습니다.
캘리포니아 주의회 (California State Legislature)
하원 80석 + 상원 40석의 양원제 입법부. 사크라멘토 주 의사당에서 회의합니다.
의료 기밀성 (Medical Confidentiality)
환자가 의료진과 공유한 건강 정보를 보호하는 원칙. AB 1979호로 챗봇 채널까지 확대 적용됩니다.

출처 및 참고

  • Healthcare IT News, "California Gov. Newsom signs 3 bills to govern healthcare AI" (2026-10-01).
  • 캘리포니아 주의회 AB 1979, SB 503, AB 1609, AB-2575, SB-903 안건.
  • White House, Executive Order on AI Policy Framework (2025-12).
  • HIMSS (Healthcare Information and Management Systems Society) 공개 코멘터리.
  • California Nurses Association (CNA) / American Nurses Association (ANA) 공식 성명.