Anthropic publicó un informe en el que afirma haber bloqueado cinco intentos de usar sus modelos de inteligencia artificial para tareas de laboratorio que podrían haber conducido a la fabricación de armas biológicas. El documento, difundido por la compañía, también enumera otros usos peligrosos de sus sistemas, como operaciones de ciberseguridad, desarrollo de armas convencionales y campañas de influencia.
Qué reportó la compañía
Según el informe, los incidentes registrados ocurrieron durante este año y fueron consultados a versiones anteriores de sus modelos —menos potentes que los más recientes de la familia Fable o Mythos, que Anthropic dice incorporar salvaguardas más avanzadas—. En varios casos la empresa no pudo determinar si la intención detrás de las consultas era científica o maliciosa.
“Estos ejemplos ilustran las tareas para las que se utilizan nuestros modelos, y los juicios que debemos tomar al evaluar si un determinado uso biológico es peligroso”.
Anthropic señala que los actores detrás de esos accesos fueron diversos: desde grupos con apoyo gubernamental hasta bandas mafiosas e individuos con motivaciones políticas. La compañía aclara que muchos de los intentos provinieron de lugares donde no presta servicio directo, y que se realizaron a través de vías alternativas como revendedores o cuentas falsas.
Ejemplos citados en el informe
Entre los casos mencionados, Anthropic pone especial énfasis en riesgos relacionados con armas convencionales y biológicas. Un ejemplo concreto que la compañía incluyó apunta al norte de Yemen, donde un grupo —que el informe sugiere tiene perfil terrorista— buscó usar la IA para diseñar tres tipos de armas. Según el documento, uno de los diseños propuestos consistía en:
- “Un cohete guiado que usaba como ordenador de vuelo un chip de teléfono móvil”.
- Dos tipos de misiles, uno con un alcance superior a 2.000 kilómetros.
Las armas biológicas, empero, aparecen en el informe como el riesgo más importante. Anthropic indica que en varios casos bloqueó consultas relacionadas con biología sin identificar a los autores, en parte porque no pudo confirmar la intencionalidad maliciosa. En un episodio concreto, la compañía decidió detener una serie de consultas que se originaron en un instituto de investigación militar; las solicitudes correspondían a un científico que pedía asistencia para redactar una petición de becas, de acuerdo con el informe.
Implicaciones y limitaciones
El reporte subraya dos problemas centrales: por un lado, la dificultad técnica y ética de evaluar cuándo una consulta es legítima y cuándo representa un riesgo real; por otro, la existencia de canales de acceso alternativos que permiten eludir las restricciones de la plataforma, como cuentas fraudulentas o intermediarios.
| Amenaza | Ejemplo en el informe |
|---|---|
| Armas biológicas | Consultas bloqueadas, sin identificar autores en muchos casos |
| Armas convencionales | Diseños de cohete guiado y misiles (alcance >2.000 km) |
| Ciberseguridad y operaciones de influencia | Detallados como usos peligrosos en el informe |
Anthropic además precisa que los incidentes descritos corresponderían a modelos anteriores a Fable y Mythos, y que estos últimos cuentan con medidas de seguridad que, en principio, dificultan usos maliciosos. Sin embargo, la compañía no ofrece en el informe datos públicos sobre la naturaleza exacta de las salvaguardas ni métricas que permitan evaluar su eficacia de forma independiente.
Contexto mayor
El documento es el cuarto de esta naturaleza que publica Anthropic y coincide temporalmente con alertas internas en la industria sobre los riesgos existenciales y de seguridad que plantean las herramientas de IA más avanzadas. La empresa no atribuye de forma concluyente las intenciones detrás de las consultas bloqueadas, pero subraya la persistencia de actores que buscan aprovechar estos sistemas para fines ilícitos o peligrosos.
Para los responsables de políticas públicas y seguridad, el informe agrega urgencia a la discusión sobre gobernanza de la IA, controles de acceso y cooperación internacional para evitar que tecnologías duales —con aplicaciones legítimas y maliciosas— se utilicen con fines dañinos. También expone la tensión entre facilitar el acceso a herramientas de investigación y proteger la seguridad pública frente a usos indebidos.
En suma, Anthropic documenta casos concretos que, según su relato, ilustran cómo modelos de lenguaje y asistencia automatizada pueden ser explotados para fines peligrosos y por actores variados, y reclama una evaluación cuidadosa de los límites y las medidas que deben acompañar a estas tecnologías.
