AI와 생물학적 무기의 위험성: 최전선 AI 모델이 불러올 바이오위협
Anthropic·OpenAI의 CEO들까지 "속도 조절하자"고 나온 이유, 그리고 우리가 준비해야 할 것을 쉽게 정리합니다.
왜 갑자기 AI CEO들이 "위험하다"고 외치나
최근 몇 주 사이, 전 세계에서 가장 큰 AI(인공지능) 회사들의 리더들이 한 목소리로 경고를 내고 있습니다. 자기들이 만들고 있는 그 기술이, 잘못 쓰면 인류 전체를 위협할 수 있다는 얘기입니다.
Anthropic의 CEO 다리오 아모데이(Dario Amodei)는 AI가 심각한 위험을 내포하고 있으며, 발전 속도를 늦춰야 한다고 공개적으로 주장했습니다. OpenAI의 CEO 샘 알트먼(Sam Altman)은 X(구 트위터)에 "다리오와 동의하며, 최전선(frontier)의 속도를 조절할 필요가 있다"고 화답했습니다.
이런 발언은 AI 연구자 제이콥 콕슨(Jacob Coxon)이 Anthropic을 떠나며 "AI를 만드는 사람들은 진심으로 10년 안에 우리 모두를 죽일 수 있다고 믿고 있다"고 게시한 데서 촉발됐습니다. 동료 연구자 에반 후빙거(Evan Hubinger)도 "앞으로 10년 안에 그 확률이 10% 이상"이라고 맞받아쳤습니다.
AI가 만들 수 있는 생물학적 무기는 어떤 모습일까
그들이 우려하는 구체적 시나리오 중 하나가 바로 생물학적 무기(bioweapon)입니다. 쉽게 말해 세균·바이러스·독소처럼 살아 있는 생물체나 그 부산물을 무기로 쓰는 것을 말합니다. 구체적으로는 이런 것들이에요.
- 맞춤형 바이러스: 특정 인종의 유전자만을 겨냥해 설계된, 매우 치명적인 바이러스
- 농작물 공격 곰팡이: 곡물을 통째로 망가뜨려 식량 위기를 일으키는 곰팡이
- 무미무취의 수돗물 독소: 탐지 없이 수돗물 공급에 몰래 섞어 들이는 화학 독소
한마디로, 눈에 보이지도 않고, 냄새로도 모르며, 한번 퍼지면 돌이키기 어려운 위협입니다.
실제로 일어난 일: 6시간 만에 4만 개 독성 분자
"AI가 진짜 위험한 건가요?"라는 질문에 가장 설득력 있는 답은 2022년의 한 실험입니다.
신약 개발을 위해 인간 질병의 잠재적 약물을 찾던 Collaborations Pharmaceuticals의 연구자들은 자신이 만든 AI 분자 생성기(molecule generator)를 살짝 다른 방향으로 써봤습니다. 그랬더니 놀라운 일이 벌어졌죠.
저자들은 논문에서 "과도한 경고성 발언이 될 수 있지만, 이 문제는 'AI 신약 개발' 분야 동료들에게 경종이 되어야 한다"고 적었습니다. 스탠포드대학교의 데이비드 매그너스(David Magnus) 교수도 "저에게는 매우 무서운 일이었습니다. 그 이후로 모든 것이 걷잡을 수 없이 커졌습니다"라고 회고합니다.
최신 보고서: AI 모델이 실제로 시뮬레이션한 것들
지난주 발표된 보고서에서 Anthropic은 자사 AI 모델을 사용해 다음과 같은 시도가 있었다고 인정했습니다.
| 시도 유형 | 설명 |
|---|---|
| 치쿤구니야 바이러스 | 전파력을 높이는 방법 탐구 |
| 조류 인플루엔자 변형 | 인간에게 더 위험한 형태 설계 |
| 독소 펩타이드 지도 | 해당 물질의 작용점 정리 |
DIY 생물학과 합성생물학이 무서운 이유
AI의 위험성이 갑자기 커진 이유는 단순합니다. 유전자 편집(gene editing)과 합성생물학(synthetic biology) 도구가 예전에 비해 훨씬 싸고 쉽게 구할 수 있게 됐기 때문입니다.
- CRISPR 같은 유전자 편집 기술: DNA를 원하는 대로 자르고 붙일 수 있는 가위
- DIY 생물학 운동: 집에서 개인 실험실을 차리는 사람들 증가
- AI 모델의 보편화: "이 지구에 살았던 거의 모든 과학자"의 지식이 학습된 대규모 언어 모델을 누구나 사용 가능
독일 함부르크대학의 생물보안 연구자 두냐 사브라(Dunja Sabra)는 이렇게 말합니다.
즉, "막을 수 없다"는 게 핵심 우려입니다. 도구와 지식이 너무 쉬워지면, 일부 악의적인 의지를 가진 사람만 있으면 언제든 시도할 수 있다는 뜻이죠.
지금 있는 안전장치: 레드티밍과 블루티밍
물론 아무런 대비가 없는 것은 아닙니다. 현재 생명공학·AI 업계에서 쓰이고 있는 안전장치를 표로 정리했습니다.
| 안전장치 | 역할 | 한계 |
|---|---|---|
| DNA 합성 회사 선별 | 의심스러운 DNA 조각 주문을 거부 | 해외 우회 주문은 막기 어려움 |
| 레드티밍(red-teaming) | 독립 과학자가 위험 연구의 오용 가능성을 공격적으로 점검 | 예산·시간 한계 |
| 블루티밍(blue-teaming) | 오용 시나리오에 대한 방어책·완화책 마련 | 새로운 위협에 뒤처질 수 있음 |
| AI 회사의 자체 조정 | 위험한 과학 정보 답변을 거부하도록 모델 학습 | 프롬프트 우회로 뚫림 |
매그너스 교수의 말처럼 "우리는 끊임없이 공방을 벌이고 있습니다. 더 나은 감시·선별 도구를 만들어도, AI는 그 우회법을 찾아내는 데 매우 능합니다." 결국 AI 사용을 제한하는 데에도 AI를 동원해야 하는 아이러니가 발생합니다.
전문가들은 의견이 갈린다
여기서 중요한 점은, 모든 과학자가 같은 수준의 위험을 우려하지는 않는다는 것입니다.
A. "아직은 과장이다"파
런던 임페리얼 칼리지의 일부 생물학자들은 AI 도구만으로는 생물학적 무기를 완전히 개발할 수 없다고 봅니다. 새로운 병원체(pathogen)를 실제로 테스트하려면 여전히 어렵고 시간이 많이 걸리는 사람의 손길이 필요하다는 거죠. 현재 마련된 안전장치로도 충분하다는 입장입니다.
B. "지금 당장은 H5N1이 더 위험하다"파
감염병 교수 웬디 바클레이(Wendy Barclay)는 현시점 팬데믹의 가장 큰 위험은 생물학적 무기가 아니라 이미 자연에서 돌고 있는 병원체라고 지적합니다.
- 조류 인플루엔자 H5N1이 미국 낙농업의 젖소 사이에서 광범위하게 확산
- 지난달에는 유타주의 밍크 농장에서도 검출
C. "5~10년을 내다봐야 한다"파
사브라 연구자는 더 먼 미래를 봅니다. 그녀는 각국이 의료 시스템 강화, 해독제(antidote) 비축, 의약품 비축을 지금부터 준비해야 한다고 강조합니다. "우리는 준비되어야 합니다."
그래서 우리는 어떻게 대비해야 하나
MIT 생물학자 케빈 에스벨트(Kevin Esvelt)는 X에 이렇게 올렸습니다.
이 경고를 일반 독자 입장에서 풀어 보면 다음 세 가지로 요약됩니다.
- 관심 갖기: AI 안전성과 biosecurity(생물 보안) 뉴스를 가끔이라도 챙겨 보세요.
- 가짜 정보 경계: AI가 생성한 의료·과학 정보를 그대로 믿지 말고, 출처가 있는 공식 자료를 우선하세요.
- 정책 논의 참여: 각국 정부와 국제기구가 AI·바이오 안전 규제에 대해 어떤 결정을 내리는지 관심을 가지세요.
자주 묻는 질문(FAQ)
Q1. AI가 정말 생물학적 무기를 만들 수 있나요?
아직 "완전한 무기를 혼자 만든다" 단계까지는 아니라고 봅니다. 다만 위험한 지식을 정리하거나 설계 아이디어를 제공하는 수준은 이미 가능하다는 게 전문가 합의에 가깝습니다.
Q2. 가장 위험한 AI 모델은 어떤 것인가요?
Anthropic·OpenAI·Google·Meta 같은 회사가 만드는 최전선(frontier) 모델이 가장 강력하지만, 동시에 가장 많이 안전장치를 적용받습니다. 문제는 오픈소스·중소형 모델이 점점 강력해지면서 통제 범위 밖으로 새고 있다는 점입니다.
Q3. 레드티밍이란 정확히 무엇인가요?
보안 분야에서 적의 입장에서 시스템의 약점을 공격적으로 찾아보는 검증 기법입니다. 바이오에서는 "이 연구가 어떻게 오용될 수 있을까"를 독립 과학자들이 사전에 검토하는 과정을 말합니다. 그 반대로 방어책을 마련하는 과정을 블루티밍이라 합니다.
Q4. 지금 가장 큰 위협은 무엇인가요?
전문가 그룹에 따라 의견이 갈리지만, 한 가지 분명한 것은 H5N1 같은 자연 발생 병원체는 이미 현실 위협이라는 점입니다. AI·바이오 무기는 아직 가능성이지만, 자연 병원체는 지금 진행형이라는 뜻이에요.
Q5. 일반 사람이 할 수 있는 대비가 있나요?
개인 차원에서는 한계가 있지만, 정확한 정보에 기반한 판단이 출발점입니다. WHO·질병관리청 같은 공신력 있는 기관의 정보를 따라가고, 낯설거나 자극적인 "치료법"·"음모론"을 경계하는 것만으로도 충분히 의미가 있습니다.
마무리하며
AI와 생명공학은 분명 인류를 더 건강하고 풍요롭게 만들 잠재력이 있습니다. 신약 개발, 희귀질환 치료, 식량 문제 해결까지 — 그 가능성은 무궁무진합니다. 다만 그같은 강력한 기술에는 항상 "어떻게 하면 잘못 쓰지 못하게 막을 것인가"라는 숙제가 따라붙고, 이번 AI CEO들의 경고는 그 숙제를 더 이상 미룰 수 없다는 신호입니다.
기술이 빠르게 발전할수록, 안전 쪽으로 기울이는 정책과 사회적 합의도 같은 속도로 따라가야 합니다.