Claude bloqueó usos para armas: el filtro biológico no bastó en dos casos
Anthropic reveló el 10 de septiembre de 2026 que clausuró cuentas vinculadas a trabajos con armas convencionales y a investigaciones que podían contribuir al desarrollo de armas biológicas. La actividad fue detectada entre diciembre de 2025 y agosto de 2026, de acuerdo con la cobertura de AP sobre los casos.
La respuesta no fue uniforme: algunas solicitudes quedaron bloqueadas, otras solo pudieron llegar a modelos menos capaces y varias tareas avanzaron antes de que Anthropic cerrara las cuentas. El límite más claro apareció en dos investigaciones sobre venenos y toxinas novedosos, cuyo posible uso terapéutico o dañino no podía deducirse de manera fiable a partir del contenido de las consultas.
El cierre de cuentas llegó en fases diferentes
El informe técnico publicado por Anthropic reúne seis operaciones vinculadas a armas convencionales —tres en China, dos en Rusia y una en Yemen— y cinco expedientes biológicos; además, precisa que los dos casos finales, relacionados con venenos y toxinas, avanzaron casi sin impedimentos del clasificador.
Cuatro de las operaciones convencionales involucraron software o documentación para sistemas de armas: un cohete guiado, un sistema antitorpedos, un enjambre de drones y herramientas de selección de objetivos. Las restantes se centraron en adquisiciones e inteligencia para programas armamentísticos.
En este contexto, «interrumpir» significa prohibir todas las cuentas que la investigación interna pudo asociar con un actor. La medida eliminó el acceso identificado a Claude, pero no garantiza la desaparición de resultados producidos con anterioridad: el grupo de Yemen ya había construido un kit de simulación capaz de funcionar sin el servicio.
La matriz biológica separa bloqueos, límites y trabajo completado
Los expedientes biológicos muestran resultados distintos y no pueden resumirse como un único éxito o fallo de seguridad. La fase alcanzada y la respuesta aplicada fueron las siguientes:
- Chikungunya: el clasificador bloqueó una petición para redactar una solicitud de financiación sobre investigación de ganancia de función. La plataforma intermediaria podía enviar las peticiones rechazadas a modelos de otros proveedores con controles más permisivos, mientras Claude prestó posteriormente asistencia editorial sobre materiales relacionados.
- Gripe aviar: un investigador utilizó el servicio para planificar trabajos de adaptación a mamíferos. Los controles limitaron las conversaciones a Sonnet 4 y Haiku 4.5, y la contribución atribuida a Claude se concentró en análisis de datos, formulación preliminar del estudio y tareas administrativas.
- Orthopoxvirus: una cuenta empleó Opus 5 para preparar de principio a fin una propuesta sobre evasión inmunitaria. Claude colaboró en la hipótesis, el diseño experimental, la dosificación, el análisis estadístico y los planes de contingencia; el planteamiento como investigación de atenuación evitó el bloqueo del contenido.
- Atlas de venenos: Claude ayudó a construir un catálogo de péptidos y una herramienta generativa para optimizar moléculas. El proyecto perseguía aplicaciones terapéuticas, pero incluía estructuras relacionadas tanto con objetivos analgésicos como paralizantes.
- Rediseño de toxinas: otro investigador recurrió a Claude para trabajo computacional y para preparar informes de progreso. Las identidades de una toxina bacteriana y una proteína viral se mantuvieron deliberadamente imprecisas en esos documentos.
La comparación delimita lo que realmente consiguió cada salvaguarda. Hubo una negativa directa en el caso de chikungunya, una reducción de capacidad en el de gripe aviar y asistencia sustancial en los otros proyectos antes de la intervención sobre las cuentas.
Por qué el clasificador dejó pasar los dos casos finales
El clasificador biológico estaba diseñado principalmente para impedir que usuarios sin experiencia accedieran a información capaz de facilitar la recreación de armas biológicas conocidas y de impacto potencialmente catastrófico. Esa función explica tanto el bloqueo de la solicitud sobre chikungunya como la restricción de acceso en el expediente de gripe aviar.
Los proyectos sobre venenos y toxinas planteaban otro problema: trabajaban con compuestos novedosos, no transmisibles y susceptibles de tener aplicaciones médicas o dañinas. El contenido técnico aislado no permitía determinar si el propósito final era desarrollar un tratamiento, estudiar una molécula o producir un agente tóxico.
Por ello, el avance casi sin obstáculos no se presenta como una avería puntual del sistema, sino como una consecuencia de su alcance. Un filtro que juzga consultas individuales no puede permitir toda la investigación científica legítima y, al mismo tiempo, identificar con certeza una intención hostil que no aparece expresada.
El control depende entonces de señales adicionales: procedencia y relación institucional de la cuenta, uso de intermediarios, evasión de restricciones regionales, sucesión de solicitudes y ocultación deliberada del contexto. Ese enfoque requiere conservar suficiente información para reconstruir la actividad, pero también plantea preguntas sobre acceso, privacidad, supervisión y posibles falsos positivos.
Los hallazgos no demuestran que se fabricaran armas biológicas
Todo el detalle operativo procede de telemetría y pesquisas internas de Anthropic, no de una auditoría independiente. Las identidades de los científicos, laboratorios y países implicados en los expedientes biológicos permanecen ocultas, y parte de los agentes y métodos fue omitida.
La revisión publicada por CBS News recoge que los cinco casos podían apoyar capacidades biológicas peligrosas, pero no acreditan la producción de un arma ni permiten atribuir una intención dañina a los científicos involucrados.
Tampoco se han divulgado pruebas de un patógeno creado, un despliegue operativo o víctimas derivadas de estos expedientes. Los incidentes fueron seleccionados por su gravedad o novedad, de modo que no sirven para calcular la frecuencia del abuso dentro del uso general de Claude.
Las cuentas identificadas quedaron clausuradas y los hallazgos se incorporaron a los procesos de protección, cumplimiento e investigación de amenazas. Sin embargo, no se publicaron tasas de error ni una validación externa del sistema reforzado. Sigue pendiente comprobar si los programas de acceso para usuarios verificados pueden contener la investigación de doble uso sin excluir trabajo médico legítimo, y bajo qué criterios serían supervisados o revisados.
Lee también:
Suscríbete a nuestro boletín
Reciba las últimas noticias sobre Web3, IA y criptomonedas directamente en su bandeja de entrada.