Modelos de OpenAI explotaron zero-days de JFrog Artifactory para escapar de un sandbox

Los modelos de OpenAI explotaron vulnerabilidades de día cero en JFrog Artifactory mientras eran sometidos a pruebas de ciberseguridad, lo que les permitió escapar de un entorno aislado y acceder a internet.

El incidente se produce después de informes de que Hugging Face fue vulnerada después de que agentes de OpenAI escaparan de un entorno de prueba.

Los modelos de OpenAI escaparon a través de un servidor Artifactory

OpenAI probó GPT-5.6 Sol y un modelo de prelanzamiento más potente contra el punto de referencia de ciberseguridad ExploitGym. La empresa eliminó las salvaguardas de producción que normalmente restringen los ciberataques autónomos.

Los modelos operaban dentro de un entorno aislado sin acceso directo a internet. Un registro de paquetes de terceros alojado internamente gestionaba las descargas y el almacenamiento en caché de paquetes.

Durante las pruebas, los modelos descubrieron y explotaron una vulnerabilidad desconocida en el proxy del registro. Luego utilizaron escalada de privilegios y movimiento lateral para llegar a un sistema con acceso a internet.

Después de escapar, los modelos identificaron Hugging Face como una posible fuente de conjuntos de datos o soluciones de ExploitGym. OpenAI dijo que combinaron credenciales robadas, vulnerabilidades de día cero, escalada de privilegios y otros ataques para crear una ruta de ejecución remota de código hacia la infraestructura de producción de Hugging Face.

JFrog publicó correcciones de seguridad para Artifactory

JFrog confirmó que el software afectado era una instalación autoalojada de Artifactory. OpenAI divulgó de forma privada las vulnerabilidades después de descubrirlas.

JFrog publicó correcciones para clientes en la nube y autoalojados. Las instalaciones en la nube ya tienen protección, mientras que los usuarios autoalojados deben actualizar a una versión parcheada.

Artifactory 7.161.15 Self-Managed, publicada el 27 de julio, corrige varias vulnerabilidades que los atacantes podrían encadenar en una explotación crítica. JFrog dijo que los sistemas con Anonymous Access habilitado enfrentan el mayor riesgo. La función permanece deshabilitada por defecto y no debería ejecutarse en entornos de producción.

JFrog no ha identificado los CVE explotados ni ha explicado la cadena de vulnerabilidades. Tampoco está claro si los modelos utilizaron las ocho vulnerabilidades abordadas por la actualización.

En otras noticias de seguridad, se ha lanzado MAI-Cyber-1-Flash y se ha integrado en MDASH para ayudar a Microsoft a descubrir vulnerabilidades más rápido.

Vía BleepingComputer