AI와 생물무기의 결합, 생명공학에 울린 경종 — CEO들이 직접 밝힌 위험 시나리오

Anthropic과 OpenAI의 수장이 직접 "속도를 늦춰야 한다"고 말한 이유. AI가 생물무기(bioweapon) 설계·제조·배포를 어떻게 도와 위험을 키우는지를 쉽게 풀어봅니다.

바이오테크 AI 안전성 생물보안 2026.01.15 약 8분

왜 갑자기 AI CEO들이 "위험하다"고 외치는가

최근 몇 주간, 세계 최대 AI 기업들의 수장들이 직접 자신이 만드는 기술의 위험성을 경고하고 있습니다. 지난 주말 Anthropic의 CEO 다리오 아모데이(Dario Amodei)는 AI가 심각한 위험을 내포하며 개발 속도를 늦춰야 한다고 주장했고, OpenAI의 CEO 샘 알트먼(Sam Altman)도 X(구 트위터)에서 "다리오와 마찬가지로 프론티어(최전선) 모델의 속도를 조절해야 한다는 데 동의한다"고 맞받았습니다.

이러한 공포는 AI 연구원 제이콥 콕슨(Jacob Coxon)이 Anthropic을 떠나며 "AI를 만드는 사람들은 진심으로 이 기술이 10년대 말까지 우리 모두를 죽일 수 있다고 믿는다"고 X에 올린 직후에 폭발적으로 커졌습니다. 동료 앤서니 휴빙거(Evan Hubinger)도 "앞으로 10년 안에 그 확률이 10% 이상"이라고 동의했습니다.

그들이 우려하는 구체적 경로 중 하나가 바로 AI가 생물무기(bioweapon)의 설계·제조·배포를 돕는 것입니다.

AI와 생명공학을 상징하는 실험실 이미지
▲ AI와 생명공학의 만남은 기회이자 위험 — 어떤 일로까지 대비가 필요할까 (이미지: Unsplash, 개념 컷)

생물무기란 정확히 무엇인가

생물무기는 무기로 쓰도록 만들어진 병원체(바이러스·세균)나 생물학적 독소를 통칭합니다. 형태는 매우 다양합니다.

  • 유전적으로 표적을 삼는 바이러스 — 특정 인종·집단의 유전자 차이를 노린 치명적 바이러스
  • 농작물을 말살하는 곰팡이 — 식량 안보를 무너뜨리는 병해충
  • 무미무취의 정제용 무기 — 수돗물·공조 시스템에 살짝 섞어 들키지 않게 살포 가능한 신경 작용제(nerve agent)
핵심 포인트: 생물무기의 공포는 "찾아내기 어렵고, 한 번 퍼지면 되돌리기 어렵다"는 점에 있습니다. 그래서 AI 같은 일반 기술과 결합되면 위험이 기하급수적으로 커집니다.

2022년의 충격적인 실험 — 6시간 만에 4만 개 분자

우려가 현실이 될 수 있다는 결정적 증거는 2022년 Collaborations Pharmaceuticals의 연구팀에서 나왔습니다. 그들은 인간 질병의 치료 후보물질을 찾으려고 만든 AI 도구인 분자 생성기(molecule generator)를 사용해, 전혀 다른 목적을 시도했습니다. 화학작용제 후보 탐색.

6시간소요 시간
40,000개생성된 분자 수
일부기존 신경 작용제보다 강한 독성
2022년실험 보고 연도

연구팀은 "과도한 경고는 하지 않겠지만, 이것은 'AI in drug discovery(신약 개발용 AI)' 커뮤니티의 동료들에게 경각심이 되어야 한다"고 적었습니다. Stanford University의 의학·생명윤리학 교수 데이비드 매그너스(David Magnus)는 "정말 무서웠습니다. 그 이후로 상황은 걷잡을 수 없이 번졌습니다"라고 말했습니다.

위험을 키우는 세 가지 엔진

현재 AI와 생명공학의 결합이 위험해지는 이유는 세 가지 흐름이 동시에 강해졌기 때문입니다.

  1. 대형 언어 모델의 지식 — 독일 함부르크 대학교의 생물보안(biosecurity) 연구원 Dunja Sabra는 "이 행성에서 살아온 거의 모든 과학자의 지식으로 학습된 모델을 누구나 사용할 수 있다"고 말합니다. 실험 절차와 영상 학습 자료까지 제공됩니다.
  2. 유전자 편집·합성생물학 도구의 대중화 — CRISPR 같은 유전자 편집(gene editing) 도구와 합성생물학(synthetic biology) 키트가 저렴해졌습니다.
  3. DIY 생물학 운동의 확산 — 집에서 실험실을 차리는 시민과학·바이오해킹 운동(DIY biology)은 이미 일반화된 현상입니다.

Sabra는 "결심을 굳힌 사람은 결국 성공할 가능성이 있다"고 덧붙였습니다.

지금 존재하는 안전장치 — 그리고 그 한계

완전히 무방비 상태는 아닙니다. 현재 우리가 가진 보호장치는 크게 네 가지입니다.

AI·생명공학 안전장치 비교표
장치설명한계
DNA 주문 선별의심스러운 합성 DNA 주문은 염기서열 단계에서 차단외국 우회·분할 주문 등으로 회피 가능
레드 티밍(red-teaming)독립 과학자가 오용 시나리오를 공격적으로 탐색자원·시간 한정, 새로운 경로 누락 가능
블루 티밍(blue-teaming)오용 시나리오에 대한 완화책·방어책 마련공격보다 방어가 본질적으로 한 박자 느림
AI 모델 가드레일오용 가능한 과학 정보 출력 차단프롬프트 우회( jailbreak )로 뚫림

지난주 Anthropic이 발표한 보고서에 따르면, 자사 모델을 사용해 치쿤구니야 바이러스의 전파력을 높이거나 더 위험한 조류 인플루엔자를 만들려는 시도, "venom toxin peptides(독소 펩타이드) 지도"를 구축하려는 시도가 실제로 있었다고 합니다.

매그너스 교수는 "우리는 끊임없는 공방전을 하고 있다"며 "AI의 사용을 제한하는 방법을 찾는 데에도 AI를 사용해야 할 것"이라고 덧붙였습니다.

의견은 갈린다 — 모든 과학자가 동의하지 않는다

모든 전문가가 같은 정도의 위험을 느끼는 것은 아닙니다. Imperial College London의 일부 생물학자들은 AI 도구가 생물무기를 완전히 개발할 만큼 충분히 좋지 않으며, 새로운 병원체 테스트에는 사람의 손이 필수라고 주장합니다.

동 대학의 감염병 교수 웬디 바클레이(Wendy Barclay)는 "현 상황에서 팬데믹의 가장 큰 위협은 생물무기가 아니라 이미 돌고 있는 병원체"라고 지적합니다. 실제로 H5N1(조류 인플루엔자)는 수백만 마리의 조류를 죽이고 미국 낙농업계 젖소 사이에서도 광범위하게 퍼졌으며, 지난달에는 유타주의 밍크 농장에서도 검출되었습니다.

"제발, 신이든, 아이들이든, 인류의 미래든, 당신이 신성하게 여기는 무엇이든, 일단 신중함 쪽으로 기울입시다." — MIT 생물자 Kevin Esvelt

5~10년 뒤를 위한 구체적 준비

Sabra는 단기 공포보다 5~10년 뒤의 시나리오를 준비해야 한다고 강조합니다.

  • 의료 시스템 강화 — 감염 초기 탐지·격리·치료 역량을 국가 단위로 끌어올리기
  • 해독제 비축 — 알려진 신경 작용제·독소에 대한 해독제(antidote)를 미리 확보
  • 의약품 비축 — 핵심 의약품을 자급할 수 있는 생산·재고 체계 마련
  • 탐지 기술 개발 — 합성 DNA·합성 바이러스를 염기서열 단계에서 가려내는 선별 도구 고도화
  • 국제 거버넌스 — 국가 간 정보 공유와 검증 체계 강화

"우리는 준비되어야 합니다." — Dunja Sabra

한 줄로 정리하는 핵심 용어

bioweapon (생물무기)
무기로 사용하도록 만들어진 병원체(바이러스·세균) 또는 생물학적 독소.
AI 프론티어 모델 (frontier AI)
성능·기능 면에서 가장 진보된 대규모 AI 시스템. 속도를 조절해야 한다는 주장이 나올 정도의 최첨단 모델.
분자 생성기 (molecule generator)
신약 후보 등 새 분자 구조를 AI로 자동 설계·생성하는 도구. 2022년 실험에서 6시간 만에 화학작용제 후보 4만 개를 만들어 충격을 줬다.
레드 티밍 (red-teaming)
독립 과학자(또는 팀)가 오용 시나리오를 공격자 관점에서 찾아내는 적대적 분석 절차.
블루 티밍 (blue-teaming)
레드 팀이 발견한 위협에 대응해 완화책·방어책을 마련하는 활동.
합성생물학 (synthetic biology)
생물학적 부품을 설계·합성하거나 유전체를 새로 만들어 기능을 재구성하는 학문 분야.
유전자 편집 (gene editing)
CRISPR 같은 도구로 DNA 염기서열을 정밀하게 잘라 붙이거나 변형하는 기술.
DIY 생물학 (DIY biology)
학술 기관 밖에서 개인·소규모 커뮤니티가 직접 생명과학 실험을 수행하는 시민과학·바이오해킹 운동.
생물보안 (biosecurity)
감염병·생물무기 등 생물학적 위협으로부터 국가·국민·생태계를 보호하는 정책·제도·기술 전반.
신경 작용제 (nerve agent)
신경계 신호 전달을 방해해 빠르게 마비·사망에 이르게 하는 화학무기(예: 사린, VX).

자주 묻는 질문 (FAQ)

Q1. AI가 정말 생물무기를 만들 수 있나요?

완전한 신규 생물무기를 처음부터 만드는 단계까지는 아직 이르다는 게 전문가들의 중론입니다. 하지만 기존 분자 중 더 위험한 변형을 찾거나, 실험 절차를 설계하고 시각 자료를 만드는 데는 이미 충분히 유용하다는 보고가 계속 나오고 있습니다.

Q2. 일반인이 집에서 정말 위험한 바이러스를 만들 수 있나요?

한 번에 끝까지 만들어내기는 어렵지만, 단계별로 분할해 진행하거나 외국 합성 바이오 회사를 우회하면 진입장벽이 크게 낮아진다는 평가가 있습니다.

Q3. 지금 가장 현실적인 위협은 무엇인가요?

H5N1 같은 조류 인플루엔자처럼 자연계에서 이미 돌고 있는 변이 바이러스가 단기적으로 더 큰 위협입니다. 하지만 5~10년 시야에서는 AI가 설계에 끼어드는 시나리오를 미리 차단해야 한다는 게 전문가 합의에 가깝습니다.

Q4. 레드 티밍·블루 티밍은 무엇인가요?

레드 티밍은 공격자 관점에서 취약점을 찾는 시험, 블루 티밍은 그에 대응해 방어책을 마련하는 활동입니다. 사이버보안에서 출발한 용어를 AI·생명공학 안전 영역에도 적용하고 있습니다.

Q5. 정부나 기업은 무엇을 해야 하나요?

핵심은 (1) 의료 시스템 강화, (2) 해독제·의약품 비축, (3) DNA 주문 선별 도구 고도화, (4) 국제 거버넌스 구축입니다. 동시에 AI 모델 자체의 안전장치도 함께 강화해야 한다는 게 주요 전문가들의 권고입니다.

마치며 — 신중함 쪽으로 기울어야 할 시간

AI가 가져오는 변화는 기회이기도 하지만, 생물무기처럼 되돌리기 어려운 위험을 동시에 키웁니다. Anthropic과 OpenAI의 수장들이 직접 "속도를 늦춰야 한다"고 말하고, 현장 연구원들이 "10년 안에 10% 이상 확률로 인류가 위험해질 수 있다"고 경고하는 시점에, 우리는 AI 발전의 속도만큼이나 안전장치에 투자를 늘려야 합니다.

"신중함 쪽으로 기울입시다"는 MIT의 Kevin Esvelt의 말은 현 시점의 가장 현실적인 한 줄 처방전입니다.