Anthropic ha identificado y bloqueado intentos de utilizar su modelo de inteligencia artificial para actividades maliciosas que podrían facilitar el desarrollo de armas biológicas. En su reciente informe de inteligencia sobre amenazas, la empresa destaca el creciente riesgo que representa la IA para la humanidad. Este informe incluye casos en los que actores vinculados a campañas de espionaje cibernético y propaganda han abusado de su tecnología. Anthropic advierte que el uso indebido de modelos avanzados puede tener consecuencias catastróficas, ya que la misma información útil para crear un arma biológica también podría servir para desarrollar vacunas o tratamientos. La situación ha llevado a llamados a una pausa en el desarrollo de IA avanzada por parte de figuras políticas como el senador Bernie Sanders.
Anthropic interrumpe intentos de uso malicioso de su modelo de IA
La empresa Anthropic ha revelado que ha identificado y detenido intentos de utilizar su modelo de inteligencia artificial para actividades maliciosas, las cuales podrían facilitar el desarrollo de armas biológicas. Este hallazgo se presenta en el reciente informe de inteligencia sobre amenazas de la compañía, que forma parte de una creciente serie de advertencias emitidas por investigadores y expertos en la industria acerca de los riesgos potenciales que conlleva esta tecnología.
Las preocupaciones han llevado a llamados a la acción, como el del senador estadounidense Bernie Sanders, quien exige una pausa en el desarrollo avanzado de la IA y un veto sobre la superinteligencia artificial. En contraste, el expresidente Donald Trump ha desestimado tales temores, afirmando que si no se lidera en inteligencia artificial, Estados Unidos podría enfrentarse a graves consecuencias.
En su último informe publicado el jueves, Anthropic destacó que otras empresas del sector también están emitiendo reportes similares. Por ejemplo, Google informó recientemente que un individuo había intentado usar su herramienta de IA Gemini para obtener una "guía técnica completa para sintetizar agentes biológicos armados".
Además, el modelo Claude de Anthropic fue utilizado por actores vinculados a campañas de ciberespionaje basadas en Rusia y por instituciones dedicadas a la propaganda iraní. El informe detalla casos preocupantes detectados en los últimos ocho meses, incluyendo aplicaciones fraudulentas y sistemas de vigilancia diseñados para identificar disidentes.
Anthropic también ha acusado a empresas chinas de intentar replicar las capacidades de Claude. El extenso informe enumera situaciones en las que grupos sospechosos respaldados por estados, criminales y otros individuos motivados políticamente han abusado de su tecnología.
Entre diciembre de 2025 y agosto de 2026, se interrumpió el "uso malicioso" de sus modelos Claude Haiku, Sonnet y Opus. Sin embargo, no se registraron casos similares con Claude Fable o los poderosos modelos Mythos-class, salvo una instancia relacionada con la destilación, un proceso para entrenar modelos más pequeños utilizando modelos más grandes y costosos.
Aparte del uso detectado en operaciones cibernéticas y fraudes, Anthropic señaló que bloqueó a científicos que empleaban su IA en formas que podrían contribuir al desarrollo de armas biológicas. El informe destaca cinco estudios de caso relacionados con actores que utilizaron sus modelos para este fin.
Según la compañía, el uso biológico indebido representa "uno de los riesgos más serios" asociados con los modelos avanzados de IA. Sin las salvaguardias adecuadas, estas capacidades podrían tener "consecuencias catastróficas". Como advirtió Anthropic: "La misma información que puede ser utilizada para desarrollar un arma biológica también podría servir para crear una vacuna o un tratamiento contra una enfermedad".
Jacob Klein, jefe de inteligencia sobre amenazas en Anthropic, describió la situación como "increíblemente matizada". Aclaró que no se trata del típico villano buscando construir un arma biológica para aniquilar a todos.
El informe también documenta seis casos donde Claude fue empleado para desarrollar software destinado a armas convencionales como firearms, misiles y drones armados.