AI와 생물무기: 생명공학계에 울린 경종 — 무엇이 위험하고 어떻게 대비해야 할까
최근 AI 기업 CEO들이 “AI가 인류를 위협할 수 있다”는 자기 경고를 잇따라 내놓고 있습니다. 특히 AI가 생물무기 설계·제조에 활용될 가능성은 학계·산업계 모두를 긴장시키고 있습니다. 이 글은 무슨 일이 있었고, 왜 위험하며, 무엇을 대비해야 하는지 한 번에 정리합니다.
1. 왜 지금 AI와 생물무기 논의가 다시 떠올랐나
Anthropic의 CEO 다리오 아모데이(Dario Amodei)는 지난주말 “AI가 심각한 위험을 내포하고 있어 진전을 늦춰야 한다”고 공개 호소했습니다. OpenAI의 CEO 샘 알트먼(Sam Altman)은 X(구 트위터)에 “다리오와 최전선(frontier)의 속도를 조절해야 한다는 데 동의한다”라고 답했습니다.
이 같은 발언은 AI 연구자 제이콥 콕슨(Jacob Coxon)이 Anthropic 퇴사를 발표하며 “AI를 만드는 사람들은 진심으로 이번 10년이 끝나기 전에 AI가 우리 모두를 죽일 수 있다고 믿고 있다"고 X에 올린 직후 나왔습니다. 또 다른 Anthropic 직원 에반 후빙거(Evan Hubinger)는 “향후 10년 안에 그 확률을 10% 이상으로 본다”는 답변을 달았습니다.
그들이 우려하는 시나리오 중 하나가 바로 “AI가 생물무기의 설계·제조·방류를 돕는 미래”입니다.
2. AI가 만들 수 있는 ‘생물무기’는 무엇인가
‘생물무기(bioweapon)’는 단순한 바이러스 한 종류가 아닙니다. 구체적으로 다음 3가지 형태로 나타나곤 합니다.
- 유전자 표적 고치사율 바이러스: 특정 인종·집단의 유전자 특질을 노린 바이러스
- 농작물 전멸 곰팡이: 식량 안보를 흔들어 사회를 붕괴시키는 생물학적 작용제
- 무취·무미의 수돗물용 독소: 아무도 모르게 상수도 공급망에 투입 가능한 정제 독소
3. 2022년 분자 생성기 실험: 6시간 만에 4만 개 분자
가장 많이 인용되는 사례이자 사실상 출발점이 된 사건이 있습니다. 2022년, Collaborations Pharmaceuticals의 연구자들은 인간 질병의 치료 후보 물질을 찾기 위해 만든 AI ‘분자 생성기(molecule generator)’를 역으로 활용해 화학전 작용제 후보를 생성해 봤습니다.
연구자들은 논문에서 “과도한 경보를 울지 않더라도, 이는 ‘AI와 신약 개발’ 커뮤니티의 동료들에게 경종이 되어야 한다”고 적었습니다. 스탠포드대학의 의학·생명윤리학 교수 데이비드 매그너스(David Magnus)는 “그 일은 나에게 매우 무서웠다. 그 후로 모든 것이 폭발적인 성장을 겪었다”고 회고했습니다.
4. 유전체 편집·합성생물학·DIY 생물학이 만든 ‘접근성 혁명'
오늘날의 AI 봇은 “지구상에 살았던 거의 모든 과학자”의 지식을 학습한 대규모 언어 모델(LLM)로, 누구나 접근할 수 있습니다. 독일 함부르크 대학교의 생물보안 연구원 둔자 사브라(Dunja Sabra)는 “실험을 수행하는 방법에 대한 지침과 동영상 훈련 자료를 제공할 수 있다"고 설명했습니다.
이 지식 접근성과 다음 세 가지 기술 트렌드가 결합되면서 위험이 기하급수적으로 커졌습니다.
4-1. 유전체 편집(CRISPR)
CRISPR-Cas9为代表的 유전자 가위는 DNA 특정 서열을 정밀하게 잘라내고 편집할 수 있게 해 줬습니다. 학계에서는 혁명적 도구이지만, 동시에 생명체를 ‘프로그래밍’ 가능한 대상으로 만든다는 비판을 받습니다.
4-2. 합성생물학(synthetic biology)
합성생물학은 자연에 존재하지 않거나 자연에서 발견된 것을 다시 설계해 새로운 생물 부품·시스템을 구축하는 분야입니다. NIH·Wikipedia에 따르면 “DNA 코드를 프로그래밍하는 것”으로 비유되곤 합니다.
4-3. DIY 생물학(DIY biology)
“시민 생명공학 운동”이라 불리는 DIY 생물학은 일반 시민들이 가정용 저가 실험실·커뮤니티 랩에서 직접 유전자를 다루며 과학을 민주화하려는 흐름입니다. “결심한 사람이 결국 성공할 가능성이 있다”는 사브라의 말이 현실적 우려로 다가오는 이유입니다.
5. 지금까지의 안전장치: 레드팀·블루팀·DNA 선별
완전히 무방비가지는 않았습니다. 현재 업계가 쓰는 안전장치는 크게 세 가지입니다.
| 장치 | 설명 | 한계 |
|---|---|---|
| DNA 주문 선별 | 새 게놈 합성에 필요한 DNA 조각을 의문 시 의뢰를 거절 | 해외 합성 업체 회피 시 우회 가능 |
| 레드 티밍(red-teaming) | 독립 과학자가 오용 가능 시나리오를 찾는 다단계 분석 | 창의적 공격 패턴은 미처 다루지 못함 |
| 블루 티밍(blue-teaming) | 다른 연구자가 잠재적 완화책을 마련 | AI 모델 업데이트 주기와 레이스 컨디션 |
“我们는 끊임없는 진검승부다. 더 나은 감시·선별 도구를 만들어야 하지만, AI는 이를 우회할 방법을 잘 찾아낸다. 결국 AI의 사용을 제한하는 방법을 찾기 위해 AI를 사용해야 할 것이다.” — 데이비드 매그너스(Stanford University)
6. Anthropic의 자체 보고서: 어떤 시도가 있었나
지난주 공개된 보고서에서 Anthropic은 자사 모델이 다음과 같은 용도로 사용되려 했다고 인정했습니다.
- 치쿤구니야(chikungunya) 바이러스를 더 전염되기 쉽게 변형하는 방법 탐색 — 모기가媒介하는 급성发热 질환로 1~7일 잠복기 후 고열·관절통을 일으킴
- 인간에게 더 위험한 형태의 조류독감(H5N1) 제작 방법 탐색
- “독소 펩타이드 지도(atlas of venom toxin peptides)” 작성 시도
아직 ‘완성된 생물무기’는 나오지 않았지만, 시도 자체가 늘고 있다는 점이 위험 신호입니다.
7. 학계는 합의하지 않는다 — 찬성과 반대 입장
다만 모든 과학자가 위험 수준에 동의하는 것은 아닙니다. 두 진영의 주장을 표로 정리했습니다.
| 입장 | 주장 | 대표 인물 |
|---|---|---|
| “이미 위험하다” | 결심한 사람이라면 결국 성공한다. 5~10년 미리 대비해야 한다. | 둔자 사브라(함부르크 대학), 케빈 에스벨트(MIT) |
| “아직 과장이다” | 실제 생물무기를 완성하려면 오랜 인간 실험이 필요하다. 현 안전장치로 충분하다. | 런던 임페리얼 칼리지 생물학자 그룹 |
MIT의 생물학자 케빈 에스벨트(Kevin Esvelt)는 X에서 “대형 언어 모델이 ‘나는 가능하다고 생각하지 못했던 새로운 형태의 생물무기를 공개했다’”며 “신중함을 기울이는 쪽으로 실수를 해주었으면 한다"고呼吁했습니다.
8. H5N1 조류독감: 지금 당장의 더 큰 위협
임페리얼 칼리지의 전염병학 교수 웬디 바클레이(Wendy Barclay)는 “현 상황에서 팬데믹의 가장 큰 위험은 이미 유행 중인 병원체”라고 지적합니다. 그 예로 다음을 들 수 있습니다.
- H5N1 조류독감은 이미 수백만 마리의 조류를 죽였습니다.
- 미국 낙농 우유품종 소에 널리 퍼졌습니다.
- 지난달 미국 유타주의 한 농장 밍크에서도 확인됐습니다 —哺乳類 전파 위험 상승 신호.
즉, “AI로 만든 미래의 생물무기”보다 “지금 자연에서 진화 중인 H5N1”이 단기적으로 더 현실적인 위협이라는 주장입니다.
9. 개인·정부·기업이 준비해야 할 7가지
- 의료 시스템 강화: 각국 정부는 팬데믹 초기 대응 역량을 점검해야 합니다.
- 해독제·의약품 비축: 알려진 독소·병원체에 대한 대응 물질을 미리 마련합니다.
- AI 모델 ‘오용 모니터링’ 고도화: 레드팀 시나리오를 주기적으로 갱신합니다.
- DNA 합성 선별 국제 표준: 국경 없는 합성 업체에 대한 글로벌 규범 마련.
- DIY 생물학 커뮤니티와 협력: 단속보다 교육·윤리 가이드라인을 통한 자정 노력 지원.
- ‘AI 안전’ 연구에 대한 투자: “AI를 제한하는 AI” 연구에 정부 펀딩을 확대합니다.
- 시민 정보 리터러시: 허위 바이오 위협 정보에 흔들리지 않도록 공신력 있는 출처 확인 습관.
10. 자주 묻는 질문(FAQ)
Q1. AI가 실제로 생물무기를 완성할 수 있나요?
아직 ‘완성품’ 단계는 아니라는 게 학계 다수 의견입니다. 다만 “설계 지식 격차”를 낮추는 역할은 이미 시작됐고, 임페리얼 칼리지 측은 “오래 걸리는 인간 실험이 여전히 필요하다는 점을 강조합니다.
Q2. 일반 시민이 위험에 노출되나요?
H5N1처럼 이미 자연에서 돌고 있는 변종은 누구나 노출 가능성이 있습니다. AI로 만든 무기는 아직은 이론적 시나리오에 가깝습니다.
Q3. 레드팀·블루팀은 정확히 무엇인가요?
레드 티밍(red-teaming)은 공격자 관점에서 AI·시스템의 결함을 찾는 적대 시뮬레이션이고, 블루 티밍(blue-teaming)은 방어팀이 완화책을 마련하는 과정입니다. 사이버보안·AI 안전성 평가의 표준 기법입니다.
Q4. DIY 생물학은 왜 문제가 되나요?
저비용으로 유전자 실험이 가능해지면서, 통제된 연구실 밖에서 위험한 시도가 일어날 가능성이 커졌습니다. 다만 같은 이유로 “과학의 민주화” 측면에서는 긍정적으로 평가받기도 합니다.
Q5. 생물보안은 어떻게 강화하나요?
유해 병원체의 유입·확산을 막기 위한 규칙·물리적 장벽·관리 관행의 총체가 생물보안(biosecurity)입니다. 농업·실험실·국가 차원에서 각각 강화가 필요합니다.
정리: 신중함 쪽으로 한 번 더 실수하자
에스벨트 교수의 호소를 빌리자면, “신중함을 기울이는 쪽으로 실수하는 것”이 지금 시대에 가장 합리적인 선택입니다. AI는 막대한 기회인 동시에 새로운 형태의 위협을 동반합니다. 합성생물학·유전체 편집·DIY 생명공학이라는 ‘접근성 혁명’의 시대에, 우리는 지식·제도·기술의 3가지 축에서 동시에 대비를 키워가야 합니다.