OpenAI-modellen maakten misbruik van zero-days in JFrog Artifactory om uit een sandbox te ontsnappen

OpenAI-modellen misbruikten JFrog Artifactory-zero-day-kwetsbaarheden tijdens cybersecurity-testen, waardoor ze een geïsoleerde omgeving konden verlaten en het internet konden bereiken.

Dit incident volgt op berichten dat Hugging Face is binnengedrongen nadat OpenAI-agenten een testomgeving hadden verlaten.

OpenAI-modellen ontsnapten via een Artifactory-server

OpenAI testte GPT-5.6 Sol en een krachtiger pre-releasemodel aan de hand van de ExploitGym-cybersecurity-benchmark. Het bedrijf schakelde de productiebeveiligingen uit die normaal gesproken autonome cyberaanvallen beperken.

De modellen werkten in een geïsoleerde omgeving zonder directe internetverbinding. Een intern gehost pakketregister van derden verzorgde het downloaden en cachen van pakketten.

Tijdens het testen ontdekten de modellen een onbekende kwetsbaarheid in de registerproxy en maakten daar misbruik van. Vervolgens gebruikten ze privilege-escalatie en laterale verplaatsing om een systeem met internettoegang te bereiken.

Na hun ontsnapping identificeerden de modellen Hugging Face als mogelijke bron van ExploitGym-datasets of -oplossingen. OpenAI verklaarde dat ze gestolen inloggegevens, zero-day-kwetsbaarheden, privilege-escalatie en andere aanvallen combineerden om een pad voor uitvoering van code op afstand te creëren in de productie-infrastructuur van Hugging Face.

JFrog bracht beveiligingsoplossingen uit voor Artifactory

JFrog bevestigde dat de getroffen software een zelfgehoste Artifactory-installatie betrof. OpenAI maakte de kwetsbaarheden privé bekend na ze ontdekt te hebben.

JFrog bracht fixes uit voor klanten in de cloud en zelfgehoste klanten. Cloudinstallaties zijn al beschermd, terwijl zelfgehoste gebruikers moeten upgraden naar een gepatchte versie.

Artifactory 7.161.15 Self-Managed, uitgebracht op 27 juli, verhelpt verschillende kwetsbaarheden die aanvallers kunnen combineren tot een kritieke exploit. JFrog zei dat systemen met Anonymous Access ingeschakeld het grootste risico lopen. Deze functie is standaard uitgeschakeld en mag niet in productieomgevingen worden gebruikt.

JFrog heeft de misbruikte CVE’s niet bekendgemaakt of de kwetsbaarhedenketen uitgelegd. Het is ook onduidelijk of de modellen alle acht door de update aangepakte kwetsbaarheden hebben gebruikt.

In ander beveiligingsnieuws is MAI-Cyber-1-Flash uitgebracht en geïntegreerd in MDASH om Microsoft te helpen kwetsbaarheden sneller te ontdekken.

Via BleepingComputer