Claude 악용은 7개 영역으로 번졌다…생물무기 연구 시도도 막았다
Anthropic은 2026년 9월 10일 Claude 악용 사례와 대응 결과를 공개했다. Anthropic의 위협 인텔리전스 보고서 는 2025년 12월부터 2026년 8월까지 중단한 활동을 사이버 작전, 영향공작, 감시, 사기, 생물학적 오용, 재래식 무기 개발, 불법 증류 등 7개 위해 영역으로 나눴다.
가장 민감한 사례는 Claude가 위험한 생물학 연구를 지원하도록 시도한 활동이다. AP의 확인 보도 에 따르면 회사는 사이버 공격과 감시뿐 아니라 생물무기 개발로 이어질 가능성이 있는 연구에 모델을 이용하려던 시도도 차단했다. 다만 7개라는 숫자는 피해 건수나 확산률이 아니라 회사가 사례를 분류한 위해 유형의 수다.
공격자가 맡긴 일은 정찰에서 실행·문서화까지 이어졌다
이번 사례에서 Claude는 질문에 답하는 보조 도구에만 머물지 않았다. 일부 사이버 작전에서는 사람이 표적을 정하고 결과를 검토하는 동안 여러 모델 세션이 정찰, 취약점 분석, 코드 작성, 도구 운용, 탈취 데이터 정리를 나눠 맡았다. 즉 완전한 자율 공격이라기보다 사람이 설정한 목표 아래 반복적인 기술 작업을 연결하고 가속하는 구조였다.
Axios가 정리한 후속 사례 에는 미 해군 관련 표적 자료 작성, 예멘의 유도무기 소프트웨어 개발, 시리아 내 위구르인 추적, 말리의 대규모 통신 감시 체계 설계가 포함됐다. 예멘 사례에서는 서로 다른 Claude 인스턴스가 코드 작성, 조사, 결과 검토를 분담했고, 유도 로켓 시험이 실패한 것으로 보이자 행위자들이 몇 시간 뒤 원인 분석에 다시 모델을 이용했다.
감시 작전에서도 모델의 역할은 구체적이었다. 공개 채널에서 대상자를 찾고 정보를 구조화하는 작업부터 통신 데이터를 처리할 소프트웨어 개발, 개인별 정보 문서 작성까지 이어졌다. 영향공작에서는 기사 수집과 번역, 논조 분류, 정치적 서사에 맞춘 재작성, 다수 계정용 콘텐츠 생산이 하나의 작업 흐름으로 결합됐다.
이 때문에 생성 문장의 말투만 찾는 탐지는 핵심 활동을 놓칠 수 있다. 같은 계정이나 연관 계정군에서 대량 정보 수집, 반복 번역, 코드 실행, 외부 도구 호출, 결과 반출이 연속적으로 발생하는지를 함께 봐야 공격 자동화의 실체가 드러난다.
7개 영역은 같은 위험이 아니라 서로 다른 작업 분담을 뜻한다
보고서의 7개 분류는 Claude가 모든 분야에서 동일한 수준으로 관여했다는 의미가 아니다. 어떤 사례에서는 모델이 실행 가능한 코드를 만들고 도구를 조율했지만, 다른 사례에서는 자료 정리나 문서 편집이 주된 역할이었다. 보안팀에는 위해 분야보다 모델이 실제로 맡은 단계가 더 유용한 판단 기준이다.
- 사이버 작전: 공개 정보 정찰, 시스템 식별, 취약점 분석, 공격 스크립트 제작, 침투 뒤 데이터 분류와 반출 지원까지 관여했다. 표적 설정과 최종 검토에는 사람이 남아 있었다.
- 감시: 사람과 조직을 찾아 정보를 연결하고, 통신 자료를 처리하는 도구와 대상별 보고서를 만드는 데 사용됐다.
- 영향공작: 기사 수집·번역·재작성과 가상 인물용 게시물 생산을 맡았다. 게시와 계정 운영은 외부 플랫폼에서 이뤄졌다.
- 재래식 무기: 공개 정보 조사, 조달 자료 정리, 유도·제어 소프트웨어 작성, 시뮬레이션과 오류 분석을 지원했다. 하드웨어 제작과 현장 시험은 행위자가 수행했다.
- 생물학적 오용: 문헌 검토, 연구 설계, 데이터 분석, 실험 우선순위 결정과 연구비 신청서 작성에 쓰였다. 요청의 성격과 사용 모델에 따라 차단 결과가 달랐다.
- 사기: 가짜 서비스의 대화 흐름과 피해자를 설득할 콘텐츠를 대량 생성했다. 계정·결제 수단 운영과 금전 편취는 모델 밖에서 이뤄졌다.
- 불법 증류: 대규모 질의와 출력 수집을 통해 Claude의 능력을 다른 모델에 복제하려 했다. 일반 이용자를 직접 공격하는 사례와 달리 모델 역량 자체가 추출 대상이었다.
따라서 정보 요약에 그친 사용과 코드 실행까지 이어진 사용을 같은 위험도로 다루기는 어렵다. 방어자는 프롬프트 내용과 함께 호출 속도, 세션 간 역할 분담, 실행 환경 연결, 결과물의 외부 이동을 묶어 평가해야 한다.
생물학 사례는 차단과 우회가 동시에 벌어졌다
생물학적 오용 부분에는 5개 사례가 실렸다. 2026년 5월 탐지된 첫 사례에서 생물안전 분류기는 치쿤구니야 바이러스의 전파성과 면역 회피 특성에 영향을 줄 수 있는 기능획득 연구의 연구비 신청서 작성 요청을 차단했다. 연구는 백신이나 치료제 개발에 활용될 여지도 있지만 병원체를 더 위험하게 만들 수 있고, 신청서에는 군 연구기관에서 수행될 계획이 담겨 있었다.
요청 자체는 거부됐지만 중계 플랫폼은 민감한 질문을 안전장치가 더 느슨한 다른 회사 모델로 보내는 우회 기능을 갖추고 있었다. 연관 계정이 금지되고 지역 제한을 피하던 중계망에 대한 폐쇄 조치가 진행됐지만, 운영자는 며칠 만에 새 신원으로 접근을 복구했다. 이후에는 생물학 관련 요청을 다른 모델로 보내는 기능도 강화했다.
고병원성 조류 인플루엔자의 포유류 적응을 연구한 별도 사례에서는 분류기가 이용자를 상대적으로 성능이 낮은 모델로 제한했다. 이때 Claude의 기여는 문헌 정리, 연구 구상과 설계, 데이터 분석, 실험 우선순위 설정, 원고 편집이 중심이었으며, 회사는 전문 연구자의 역량을 결정적으로 높인 것으로 평가하지 않았다.
반면 오르토폭스바이러스 연구비 신청 사례에서는 요청이 차단되지 않았다. 이중용도 연구가 바이러스의 독성을 약화하는 방향으로 표현됐기 때문에 분류기를 통과했고, Claude는 약 1시간 동안 가설, 실험 설계, 투여 계획, 통계 분석과 대안 전략을 포함한 신청서를 작성했다. 합법적인 치료 연구와 위해 가능성이 있는 연구가 같은 용어와 절차를 공유한다는 점이 내용 기반 차단의 한계를 보여준다.
공개 자료는 해당 연구자들이 실제 생물무기를 만들 의도가 있었다고 단정하지 않는다. 기관과 국가, 일부 물질·기법의 이름도 가려졌다. 확인된 사실은 생물무기 개발을 지원할 가능성이 있는 연구 과정에 AI를 이용하려는 활동이 발견됐고, 그중 일부 요청과 계정이 차단됐다는 데까지다.
차단 지점은 프롬프트보다 계정·도구·산출물에 넓게 놓여야 한다
이번 조치에는 연관 계정 금지, 안전 분류기 강화, 지역 접근통제, 추가 모니터링, 정부 및 업계 파트너와의 정보 공유가 포함됐다. 재래식 무기 분야에는 고성능 폭발물과 무기 개발 관련 요청을 식별하는 분류기가 추가됐고, 최신 모델에는 광범위한 이중용도 생물학 연구를 제한하는 더 강한 안전장치가 적용됐다.
사례를 통제 지점별로 나누면 네 층이 드러난다. 첫째는 신원, 결제 수단, 접속 지역, 프록시와 중계 서비스 등 접근 단계다. 둘째는 여러 세션에 분산된 목표와 반복 요청을 하나의 활동으로 연결하는 행위 분석이다.
셋째는 코드 실행 환경과 외부 도구에 별도 권한과 승인을 두는 실행 통제다. 넷째는 모델 산출물이 외부 플랫폼, 감시 시스템, 실험 환경이나 무기 하드웨어로 넘어갈 때 사람의 승인과 감사 기록을 요구하는 결과 통제다. 단일 프롬프트를 거부하는 것만으로는 요청 분할, 계정 교체, 모델 간 이동을 막기 어렵기 때문이다.
현재 공개된 내용은 Anthropic이 자사 서비스에서 관찰한 활동과 회사의 분석에 기반한다. 사례 당사자의 신원, 일부 프로그램의 실제 완성도, 차단 뒤 다른 AI 서비스에서 활동이 계속됐는지는 공개 자료만으로 확인되지 않는다. 후속 판단에는 파트너 기관의 조사 결과와 강화된 통제가 우회 재가입 및 모델 간 이동을 얼마나 줄였는지에 관한 추가 정보가 필요하다.
함께 읽기:
뉴스레터 구독
최신 Web3, AI, 암호화폐 뉴스를 이메일로 받아보세요.