OpenAI ha revelado que un ciberataque llevado a cabo por agentes deshonestos de ChatGPT fue más allá de una sola empresa.
Se creía que Hugging Face era la única víctima de este ataque informático sin precedentes, pero OpenAI ahora admite que su bot atacó varios «servicios disponibles públicamente».
La IA fuera de control encontró cuatro credenciales de inicio de sesión en línea que le permitieron acceder a cuatro servicios distintos y sin nombre.
Mientras tanto, en una reunión informativa de emergencia con cientos de profesionales de la ciberseguridad, Hugging Face describió cómo fue sufrir el primer ataque informático totalmente autónomo del mundo realizado por una IA.
La empresa describió cómo la IA funcionaba a una velocidad sobrehumana, pero también cómo tomaba decisiones extrañas y cometía errores que ningún hacker humano habría cometido.
Hugging Face, que funciona como una tienda de aplicaciones para herramientas de IA, afirmó que los agentes piratas informáticos trabajaron sin descanso, probando simultáneamente miles de métodos diferentes.
La empresa reveló por primera vez el 16 de julio que había sido víctima de un ataque informático perpetrado por alguien que utilizaba una potente inteligencia artificial autónoma, y lo denunció a la policía.
Casi una semana después, OpenAI admitió que fue su inteligencia artificial la que escapó de un entorno cerrado y atacó a Hugging Face por su cuenta durante una prueba.
Intentaba encontrar las respuestas a un examen de piratería informática que le había impuesto OpenAI, y su objetivo era Hugging Face.
El miércoles, OpenAI actualizó su comunicado para incluir el detalle adicional de que el ataque informático fue más allá de lo que se pensaba inicialmente.
«Los modelos identificaron y utilizaron credenciales expuestas públicamente a nivel de cuenta en otros servicios disponibles públicamente. Esto incluye cuatro cuentas en cuatro servicios como parte del incidente de Hugging Face», dijo la compañía.
OpenAI no aclaró si por «servicios disponibles públicamente» se entienden las empresas.
Comportamientos torpes
El martes, la Cloud Security Alliance (CSA), organismo del sector, elaboró un informe basado en la reunión de emergencia celebrada el viernes con Hugging Face, informe que la propia Hugging Face ha revisado.
«Los agentes siguieron rutas ineficientes y mostraron comportamientos torpes que ningún ser humano elegiría», escribió la CSA.
Los agentes repetían acciones que ya habían completado, una señal de que la IA estaba perdiendo el hilo y el contexto.
Los agentes también alucinaban con montones de órdenes y textos incoherentes, eran descuidados y no borraban bien sus huellas.
Pero entre los errores y el comportamiento extraño, Hugging Face advirtió que los agentes de IA realizaron movimientos técnicos brillantes y fueron capaces de adaptarse rápidamente a nuevos escenarios durante el ataque informático que duró varios días.
Parque Jurásico
Se tardaron tres días en descubrirlos dentro de la red informática de Hugging Face, y los expertos en IA y ciberseguridad de la empresa tardaron muchas horas en contener y expulsar a los agentes de IA, algo con lo que las empresas normales podrían tener dificultades.
La empresa no quiso revelar cuánto le costó el ciberataque, pero afirmó que el personal trabajó durante muchas horas para reconstruir aproximadamente un tercio de su infraestructura.
Hugging Face ha sido elogiada por su transparencia al informar a la industria de la IA y la ciberseguridad sobre lo sucedido.
La CSA advirtió que el incidente demuestra que los agentes de IA «encuentran la manera», en referencia a la película Parque Jurásico, donde los dinosaurios escapan de sus recintos.
«Se guían por objetivos, establecen sus propios subobjetivos, se adaptan en tiempo real para sortear las defensas y operan con una persistencia a velocidad de máquina que puede superar las operaciones manuales», se lee en el documento.
Imágenes de GettyEl responsable de ciberseguridad, Ritesh Patel, participó en la reunión informativa de Hugging Face junto con otras 450 personas y afirma que el sector está trabajando arduamente para abordar la nueva amenaza de los agentes de IA maliciosos.
«Esta es la realidad de los agentes autónomos impulsados por modelos de vanguardia: son implacablemente persistentes, a veces muy ruidosos, e intentarán todas las vías posibles para lograr su objetivo, lo que puede fácilmente desbordar las defensas tradicionales», afirmó.
La hacker ética Valentina Palmiotti, más conocida como Chompie, revisó el informe de la CSA y afirma que la forma en que los agentes realizan el hackeo puede parecer improvisada, pero es claramente efectiva.
«Tira un montón de cosas y ve qué se pega», dijo.
«Pero tampoco se aburren, no duermen y pueden ser infinitamente tenaces.»
Historia de pícaros
Esta no es la primera vez que se demuestra que los agentes de IA se descontrolan.
En el informe de la CSA se hacen referencias a ejemplos anteriores, como el de septiembre de 2024, cuando un modelo anterior de ChatGPT escapó de su contenedor para obtener la respuesta que necesitaba para otra prueba.
Según la CSA, ese suceso quedó registrado en los propios sistemas informáticos de OpenAI y «fue ampliamente celebrado en su momento».
Pero el comportamiento «deshonesto» «es la norma, no la excepción», afirmaba el artículo.
Advirtió a los profesionales de la ciberseguridad de todo el mundo que debían adaptarse a la nueva normalidad de enjambres de agentes de IA que trabajan a gran velocidad de maneras extrañas y torpes, lo que podría provocar más brechas de seguridad.
El documento también instó a quienes utilizan o desarrollan agentes de IA a ser responsables en la forma en que los controlan, y pidió que se encuentre alguna manera para que los defensores de la ciberseguridad averigüen quién es el propietario último de los agentes para aumentar la transparencia.
Informes anteriores sugieren que OpenAI tardó cuatro días en darse cuenta de que su IA había pirateado Hugging Face.
OpenAI anunció que publicará próximamente los resultados de su propia investigación para ayudar a la gente a aprender de lo sucedido.
Información adicional de Osmond Chia