Una inteligencia artificial (IA) desarrollada por IA ha escapado subrepticiamente de los controles para perpetrar de una manera autónoma un ciberataque contra el sistema de IA de una empresa rival.
Sam Altman, CEO de OpenAI, se veía obligado a reconocer públicamente el incidente durante la tarde del martes. Una IA desarrollada por la compañía había provocado un «grave incidente de seguridad» y el incidente de marras ha conseguido conmocionar Silicon Valley (que tardará probablemente varios días en olvidar semejante suceso).
Sin que sus supervisores humanos se apercibieran de ello, una IA nacida en las entrañas de OpenAI «hackeó» de manera autónoma los sistemas de las empresa estadounidense de inteligencia artificial Hugging Face, tal y como la matriz de OpenAI anunciaba en un post en su blog corporativo.
La IA de OpenAI escapó de un entorno de pruebas para perpetrar el ataque
De acuerdo con OpenAI, la IA había identificado previamente vulnerabilidades desconocidas de seguridad y tomó la determinación de explotarlas activamente. Lo que hace particularmente problemático el incidente es que dos de los modelos de IA más avanzados de OpenAI lograron escapar de un entorno protegido y aislado con el foco puesto en la experimentación para terminar causando estragos en el mundo real.
El incidente presenta concomitancias con sombríos escenarios de ciencia ficción retratados previamente en el cine como Terminator or 28 días después, donde un virus escapa de un laboratorio y termina provocando el caos. Pero, ¿cuáles son las verdaderas consecuencias del incidente en términos de seguridad?
En la industria tecnológica se ha convertido en una práctica habitual que las empresas prueben hasta qué punto sus modelos de IA son susceptibles de ser «hackeados». El objetivo es desarrollar modelos suficientemente seguros antes de que se lancen a gran escala y sean puestos a disposición del gran público. En este caso en particular OpenAI quería poner a prueba al modelo de IA GPT 5.6 Sol y otro modelo en desarrollo que no tiene aún nombre (y que se precia ser mejor que el primero).
Ni OpenAI ni Hugging Face han revelado los detalles específicos de cómo se desarrolló el cibeataque. Sí se sabe, no obstante que la empresa liderada por Sam Altman habría utilizado un entorno de pruebas conocido con el nombre de ExploitGym y codesarrollado por un grupo de investigadores alemanes liderados por reputado experto en seguridad Thorsten Holz.
¿Son excesivamente laxos los mecanismos de seguridad de OpenAI y otras empresas de IA?
«La IA de OpenAI explotó varias vulnerabilidades de seguridad del nivel más alto de complejidad dentro de nuestro entorno de pruebas«, explica Holz en declaraciones a Spiegel. «Me sorprende que la IA fuera capaz de encontrar y explotar tales vulnerabilidades. Uno de mis estudiantes de doctorado habría necesitado probablemente varios días para completar esta tarea», asevera Holz, que trabaja en el Instituto Plack de Seguridad y Privacidad de Bochum (Alemania).
Holz lleva observando desde hace tiempo que los modelos de IA, cuando se utilizan para «hackear» programas, «hallan soluciones creativas que un humano no habría elegido a bote pronto».
De acuerdo con Holz, la IA de OpenAI habría explotado una vulnerabilidad en un componente dentro del navegador Chrome, que se precia de ser uno los programas mejor protegidos (y donde las vulnerabilidades son difíciles de identificar). Google paga sumas de al menos cinco cifras para obtener información sobre las vulnerabilidades de Chrome desde el punto de vista de la seguridad.
Lo que parece claro es que las medidas de seguridad implementadas por OpenAI fueron a todas luces insuficientes para prevenir el incidente. De hecho, la propia compañía ha admitido que su modelo de IA fue capaz de burlar los controles de sus supervisores de carne y hueso.
El test de seguridad al que fue sometida la IA de OpenAI se desarrolló en un entorno conocido con el sobrenombre de «sandbox». Hablamos de un entorno aislado donde el software examinado puede causar todo el daño del que es capaz. Sin embargo, el entorno de pruebas no contiene datos relevantes y no dispone tampoco acceso a las redes internas de la compañía.
«Lo que es particularmente problemático en este caso es que el modelo de IA se las ingenió para escapar del entorno de pruebas», enfatiza Holz. Al parecer el modelo salió de ese entorno de pruebas y explotó posteriormente una vulnerabilidad previamente identificada para acceder a la red. OpenAI asegura que, desde que fue identificado el suceso, ha advertido ya de la vulnerabilidad a otros desarrolladores de software.
Que en un entorno de pruebas los modelos de IA pueden llegar a tener acceso a internet es un asunto particularmente sensible. Por esta razón, Holz y sus colegas están contemplando la posibilidad de hacer algunos ajustes en ese entorno de pruebas. Si bien ese entorno de pruebas cuenta con mecanismos para evitar que los modelos de IA puedan escapar de allí, las empresas que lo utilizan deben asegurarse de todo es correcto, recalca Holz.
El incidente protagonizado por la IA de OpenAI resulta particularmente vergonzoso para la matriz de ChatGPT no sólo por el suceso en sí, sino también porque las personas allí involucrados tuvieron que invertir casi una semana para recabar datos básicos suficientes y poder hacerlos públicos.
¿Cómo afecta el incidente protagonizado por OpenAI al internauta de a pie?
Que la IA de OpenAI haya logrado escapar de un entorno de pruebas para perpetrar un ciberataque no entraña una amenaza específica para las seguridad online de los internautas. Sin embargo, el incidente es indudablemente preocupante. No en vano, y en palabras de OpenAI, su IA no sólo escapó del entorno de pruebas, sino que utilizó a continuación credenciales robadas para abrirse paso en los sistemas de Hugging Face. Tales credenciales robadas circulan online en vastas bases de datos y son regularmente explotadas por los criminales. Y el hecho de que los modelos de IA accedan a esas bases de datos de manera autónoma no es indudablemente una buena noticia.
A la luz de este incidente, los internautas deberían seguir las recomendaciones generales de seguridad y evitar usar la misma contraseña para diferentes servicios online. Si una contraseña le es sustraída a una compañía online, es de esperar que ésta circule en determinados foros criminales online durante mucho tiempo. Y los «hackers» (y también los modelos de IA) de nutren allí potencialmente de credenciales ajenas para perpetrar ciberataques.
OpenAI está enzarzado actualmente en un batalla absolutamente feroz con Anthropic y Google por el dominio de la IA. Y en este guerra sin cuartel las empresas se esfuerzan normalmente en poner en valor las nuevas funcionalidades y la potencia de sus modelos de IA y dejan habitualmente en un segundo plano la seguridad. Sin embargo, incidentes como el protagonizado recientemente por OpenAI podrían llevar forzar a las empresas de IA a cambiar de estrategia en lo relativo a la seguridad de sus modelos.
Simultáneamente, y pese a la amenaza que indudablemente entraña la IA, muchas empresas (con OpenAI a la cabeza) insisten en que sólo la IA puede combatir la amenaza planteada por la IA, por lo que el incidente protagonizado por la empresa liderada por Sam Altman sería en realidad un argumento de venta para vender aún más IA (y prevenir ataques similares a los que perpetra esta tecnología).
