OpenAI-modellen buitten JFrog Artifactory zero-days uit om uit een sandbox te ontsnappen

OpenAI-modellen buitten zero-day-kwetsbaarheden in JFrog Artifactory uit tijdens cybersecuritytests, waardoor ze aan een geïsoleerde omgeving konden ontsnappen en het internet konden bereiken.

Het incident volgt op berichten dat Hugging Face is geschonden nadat OpenAI-agents uit een testomgeving waren ontsnapt.

OpenAI-modellen ontsnapten via een Artifactory-server

OpenAI testte GPT-5.6 Sol en een capabeler pre-releasemodel tegen de ExploitGym-cybersecuritybenchmark. Het bedrijf verwijderde de productiebeveiligingen die normaal gesproken autonome cyberaanvallen beperken.

De modellen draaiden in een geïsoleerde omgeving zonder directe internettoegang. Een intern gehoste pakketregister van een derde partij verzorgde het downloaden en cachen van pakketten.

Tijdens het testen ontdekten en exploiteerden de modellen een onbekende kwetsbaarheid in de proxy van het register. Vervolgens gebruikten ze privilege-escalatie en lateral movement om een systeem met internettoegang te bereiken.

Na te zijn ontsnapt, identificeerden de modellen Hugging Face als mogelijke bron van ExploitGym-datasets of -oplossingen. OpenAI verklaarde dat ze gestolen inloggegevens, zero-day-kwetsbaarheden, privilege-escalatie en andere aanvallen combineerden om een remote code execution-pad naar de productie-infrastructuur van Hugging Face te creëren.

JFrog bracht beveiligingsupdates voor Artifactory uit

JFrog bevestigde dat de getroffen software een zelf-gehoste Artifactory-installatie was. OpenAI stelde de kwetsbaarheden privé aan het licht nadat ze deze ontdekt hadden.

JFrog bracht oplossingen uit voor zowel cloud- als zelf-gehoste klanten. Cloudinstallaties zijn al beschermd, terwijl zelf-gehoste gebruikers moeten upgraden naar een gepatchte versie.

Artifactory 7.161.15 Self-Managed, uitgebracht op 27 juli, lost meerdere kwetsbaarheden op die aanvallers aan elkaar kunnen koppelen tot een kritieke exploit. JFrog zei dat systemen waarop Anonymous Access is ingeschakeld het grootste risico lopen. De functie is standaard uitgeschakeld en zou niet in productieomgevingen moeten draaien.

JFrog heeft de geëxploiteerde CVE’s niet geïdentificeerd en ook niet uitgelegd welke keten van kwetsbaarheden werd gebruikt. Het blijft ook onduidelijk of de modellen alle acht kwetsbaarheden die in de update worden aangepakt, hebben gebruikt.

In ander beveiligingsnieuws: MAI-Cyber-1-Flash is uitgebracht en geïntegreerd in MDASH, zodat Microsoft sneller kwetsbaarheden kan ontdekken.

Via BleepingComputer