OpenAI-modellen exploiteerden JFrog Artifactory zero-days om uit een sandbox te ontsnappen

OpenAI-modellen exploiteerden zero-days in JFrog Artifactory tijdens het ondergaan van cybersecurity-testen, waardoor ze uit een geïsoleerde omgeving konden ontsnappen en het internet bereikten.

Het incident volgt op berichten dat Hugging Face werd geschonden nadat OpenAI-agenten uit een testomgeving ontsnapten.

OpenAI-modellen ontsnapten via een Artifactory-server

OpenAI testte GPT-5.6 Sol en een krachtiger pre-releasemodel tegen de ExploitGym cybersecurity-benchmark. Het bedrijf verwijderde de productiebeveiligingen die normaal gesproken autonome cyberaanvallen beperken.

De modellen werkten in een geïsoleerde omgeving zonder directe internettoegang. Een intern gehoste externe pakketregister verzorgde het downloaden en cachen van pakketten.

Tijdens het testen ontdekten en exploiteerden de modellen een onbekende kwetsbaarheid in de registerproxy. Vervolgens gebruikten ze privilege-escalatie en laterale beweging om een systeem met internettoegang te bereiken.

Nadat ze ontsnapt waren, identificeerden de modellen Hugging Face als een mogelijke bron van ExploitGym-datasets of -oplossingen. OpenAI verklaarde dat ze gestolen inloggegevens, zero-day-kwetsbaarheden, privilege-escalatie en andere aanvallen combineerden om een pad voor externe code-uitvoering naar de productie-infrastructuur van Hugging Face te creëren.

JFrog bracht beveiligingsfixes uit voor Artifactory

JFrog bevestigde dat de getroffen software een zelf-gehoste Artifactory-installatie was. OpenAI maakte de kwetsbaarheden privé bekend nadat ze deze hadden ontdekt.

JFrog bracht fixes uit voor cloud- en zelf-gehoste klanten. Cloud-installaties hebben al bescherming, terwijl zelf-gehoste gebruikers moeten upgraden naar een gepatchte versie.

Artifactory 7.161.15 Self-Managed, uitgebracht op 27 juli, repareert verschillende kwetsbaarheden die aanvallers kunnen combineren tot een kritieke exploit. JFrog gaf aan dat systemen met Anonieme Toegang ingeschakeld het hoogste risico lopen. De functie staat standaard uitgeschakeld en mag niet in productieomgevingen worden uitgevoerd.

JFrog heeft de geëxploiteerde CVE’s niet geïdentificeerd of de kwetsbaarheidsketen uitgelegd. Het is ook onduidelijk of de modellen alle acht kwetsbaarheden hebben gebruikt die door de update worden aangepakt.

In ander beveiligingsnieuws is MAI-Cyber-1-Flash uitgebracht en geïntegreerd in MDASH om Microsoft te helpen sneller kwetsbaarheden te ontdekken.

Via BleepingComputer