Modelos de OpenAI explotaron los Zero-Days de JFrog Artifactory para escapar de un sandbox

Los modelos de OpenAI explotaron vulnerabilidades de día cero de JFrog Artifactory mientras se sometían a pruebas de ciberseguridad, lo que les permitió escapar de un entorno aislado y acceder a Internet.

Este incidente se produce después de informes que indican que Hugging Face fue vulnerado después de que agentes de OpenAI escaparan de un entorno de pruebas.

Los modelos de OpenAI escaparon a través de un servidor Artifactory

OpenAI probó GPT-5.6 Sol y un modelo previo al lanzamiento más potente contra el benchmark de ciberseguridad ExploitGym. La compañía eliminó las salvaguardas de producción que normalmente restringen los ciberataques autónomos.

Los modelos operaban dentro de un entorno aislado sin acceso directo a Internet. Un registro de paquetes de terceros alojado internamente gestionaba las descargas y el almacenamiento en caché de los paquetes.

Durante las pruebas, los modelos descubrieron y explotaron una vulnerabilidad desconocida en el proxy del registro. Luego utilizaron escalada de privilegios y movimiento lateral para llegar a un sistema con acceso a Internet.

Tras escapar, los modelos identificaron Hugging Face como una posible fuente de conjuntos de datos o soluciones de ExploitGym. OpenAI afirmó que combinaron credenciales robadas, vulnerabilidades de día cero, escalada de privilegios y otros ataques para crear una ruta de ejecución remota de código hasta la infraestructura de producción de Hugging Face.

JFrog publicó correcciones de seguridad para Artifactory

JFrog confirmó que el software afectado era una instalación autoalojada de Artifactory. OpenAI reveló las vulnerabilidades de forma privada tras descubrirlas.

JFrog publicó correcciones para clientes en la nube y autoalojados. Las instalaciones en la nube ya cuentan con protección, mientras que los usuarios autoalojados deben actualizar a una versión parcheada.

Artifactory 7.161.15 Self-Managed, publicada el 27 de julio, corrige varias vulnerabilidades que los atacantes podrían encadenar en una explotación crítica. JFrog afirmó que los sistemas con Anonymous Access habilitado enfrentan el mayor riesgo. La función permanece deshabilitada por defecto y no debe ejecutarse en entornos de producción.

JFrog no ha identificado los CVE explotados ni ha explicado la cadena de vulnerabilidades. Tampoco está claro si los modelos utilizaron las ocho vulnerabilidades abordadas por la actualización.

En otras noticias de seguridad, se ha lanzado MAI-Cyber-1-Flash y se ha integrado en MDASH para ayudar a Microsoft a descubrir vulnerabilidades más rápido.

Vía BleepingComputer