Anthropic afirma haber identificado y frustrado intentos de utilizar su modelo de IA para «actividades maliciosas» que podrían apoyar el desarrollo de armas biológicas.
Las conclusiones, recogidas en el reciente informe de inteligencia sobre amenazas de la empresa, son las últimas de una creciente serie de advertencias por parte de investigadores de IA y expertos del sector sobre los riesgos potenciales de esta tecnología para la humanidad .
Estas advertencias han provocado llamamientos a la acción, y el senador estadounidense Bernie Sanders ha exigido una pausa en el desarrollo de la IA avanzada y la prohibición de la superinteligencia artificial.
Hasta el momento, el presidente Donald Trump ha rechazado esos temores, afirmando el jueves que le preocupaba que «si no ganamos en la IA, nos encontraremos en una situación muy difícil».
La compañía publicó su último informe de inteligencia sobre amenazas el jueves.
Este tipo de informes se han convertido en algo habitual en la industria de la IA, ya que las empresas buscan demostrar cómo identifican y frustran los intentos de hacer un uso indebido de sus modelos.
Esto incluye a Google, que escribió el martes que una persona había intentado utilizar su herramienta de IA, Gemini, para obtener una «guía técnica completa, paso a paso, para sintetizar agentes biológicos armados».
Según su informe, el modelo de IA de Claude, Anthropic, también fue utilizado por agentes vinculados a una campaña de ciberespionaje con sede en Rusia y por una institución de propaganda iraní .
Los casos preocupantes detectados en los últimos ocho meses abarcan desde aplicaciones de citas falsas y estafas con la red wifi de los hoteles, hasta sistemas de vigilancia diseñados para identificar a disidentes.
Anthropic también ha acusado a empresas chinas de inteligencia artificial de intentar replicar las capacidades de Claude.
El extenso informe enumera casos en los que presuntos grupos patrocinados por el Estado, delincuentes, vendedores de software espía, instituciones de propaganda estatal e individuos con motivaciones políticas hicieron un uso indebido de su tecnología.
Según la empresa, entre diciembre de 2025 y agosto de 2026 se interrumpió el «uso malicioso» de sus modelos Claude Haiku, Sonnet y Opus.
Ninguno de los casos de uso indebido involucró a Claude Fable ni a los potentes modelos de la clase Mythos, con la excepción de un caso de destilación: el proceso de entrenar modelos de IA más pequeños utilizando modelos más grandes y costosos.
Además de detectar el uso de sus modelos para operaciones cibernéticas y de influencia, vigilancia, estafas, fraude y desarrollo de armas, Anthropic afirmó haber bloqueado a científicos que utilizaron su IA de maneras que pudieran apoyar el desarrollo de armas biológicas.
El informe destacó «cinco estudios de caso de actores que utilizan nuestros modelos de maneras que podrían apoyar el desarrollo de armas biológicas».
Según Anthropic, el mal uso de la biología es «uno de los riesgos más graves de los modelos de IA de vanguardia». Sin las salvaguardas adecuadas, estas capacidades «podrían tener consecuencias catastróficas».
«La misma información que puede utilizarse para desarrollar un arma biológica también podría utilizarse para desarrollar, por ejemplo, una vacuna o una cura para una enfermedad», afirmó Anthropic.
Jacob Klein, jefe de inteligencia sobre amenazas de Anthropic, declaró al New York Times que se trataba de «una situación increíblemente compleja».
«No se trata de alguien que, como en un cómic, diga: ‘Oye, quiero construir un arma biológica para matar a todo el mundo'», afirmó.
El informe también señaló seis casos en los que se utilizó a Claude «para desarrollar software para armas convencionales, incluidas armas de fuego, misiles, drones armados, bombas y otras municiones, así como los sistemas de puntería y control que las operan».
El informe indicaba que los ciberdelincuentes y los hackers respaldados por estados han utilizado cada vez más su tecnología para facilitar sus operaciones.
El grupo de hackers ShinyHunters, así como laboratorios con sede en China, figuraban entre los mencionados en el informe.
El informe también señala que un grupo de hackers, cuyo trabajo coincide con el de Midnight Blizzard, con sede en Rusia, supuestamente utilizó inteligencia artificial para crear un sistema que detectaba automáticamente cuándo su malware era detectado por las defensas de seguridad y reescribía el código hasta que lograba evadir la detección.
La empresa con sede en California afirmó haber incorporado sus hallazgos a sus procesos «para prevenir, detectar e interrumpir mejor estas actividades en el futuro».
Anthropic afirmó haber compartido información de inteligencia con las autoridades y los socios de la industria cuando fue necesario.
Mira: «Reduzcamos el ritmo»: Bernie Sanders propone un proyecto de ley para prohibir la superinteligencia artificial.
El informe, el primero de la compañía este año, se publica después de que un destacado investigador de seguridad de Anthropic advirtiera que la IA está avanzando tan rápido que cree que hay más de un 10 % de probabilidades de que «pueda matar a todos los humanos» en la próxima década.
En un artículo publicado el 6 de septiembre, el científico jefe de OpenAI, Jakub Pachocki, pidió a la industria que implementara «ralentizaciones voluntarias» hasta que se establezcan medidas de seguridad.
«Me preocupa que nadie esté preparado para las consecuencias del continuo y rápido avance de la inteligencia artificial», dijo Pachocki, y añadió que OpenAI, la empresa que desarrolla ChatGPT, continuará trabajando en la creación de medidas de protección, aunque se requieren intervenciones más amplias.
Esta advertencia motivó una carta abierta al primer ministro británico, Andy Burnham, en la que se solicitaba un nuevo tratado multinacional para el desarrollo seguro de la IA y se hacía un llamamiento a los gobiernos para que colaboraran sobre cómo debería ser un tratado basado en el desarrollo de la superinteligencia.
En Estados Unidos, el legislador demócrata Bernie Sanders ha presentado un proyecto de ley para prohibir la superinteligencia artificial y suspender temporalmente el desarrollo de la IA avanzada.