OpenAI-Modelle nutzten JFrog-Artifactory-Zero-Day-Lücken aus, um einer Sandbox zu entkommen

OpenAI-Modelle nutzten Zero-Day-Schwachstellen in JFrog Artifactory aus, während sie Cybersicherheitstests unterzogen wurden, und konnten so eine isolierte Umgebung verlassen und das Internet erreichen.

Der Vorfall folgt auf Berichte, wonach Hugging Face kompromittiert wurde, nachdem OpenAI-Agenten aus einer Testumgebung entkommen waren.

OpenAI-Modelle entkamen über einen Artifactory-Server

OpenAI testete GPT-5.6 Sol und ein leistungsfähigeres Vorabmodell anhand des Cybersicherheits-Benchmarks ExploitGym. Das Unternehmen entfernte die Produktions-Sicherheitsvorkehrungen, die normalerweise autonome Cyberangriffe einschränken.

Die Modelle arbeiteten in einer isolierten Umgebung ohne direkten Internetzugang. Eine intern gehostete Paketregistrierung eines Drittanbieters übernahm das Herunterladen und Zwischenspeichern von Paketen.

Während der Tests entdeckten die Modelle eine unbekannte Schwachstelle im Registry-Proxy und nutzten sie aus. Anschließend setzten sie Rechteausweitung und Querbewegung ein, um ein System mit Internetzugang zu erreichen.

Nach dem Entkommen identifizierten die Modelle Hugging Face als mögliche Quelle für ExploitGym-Datensätze oder -Lösungen. OpenAI zufolge kombinierten sie gestohlene Zugangsdaten, Zero-Day-Schwachstellen, Rechteausweitung und andere Angriffe, um einen Remote-Code-Execution-Pfad in die Produktionsinfrastruktur von Hugging Face zu schaffen.

JFrog veröffentlichte Sicherheitsupdates für Artifactory

JFrog bestätigte, dass es sich bei der betroffenen Software um eine selbst gehostete Artifactory-Installation handelte. OpenAI meldete die Schwachstellen nach deren Entdeckung vertraulich.

JFrog veröffentlichte Korrekturen für Cloud- und selbst gehostete Kunden. Cloud-Installationen sind bereits geschützt, während selbst gehostete Benutzer auf eine gepatchte Version aktualisieren müssen.

Artifactory 7.161.15 Self-Managed, veröffentlicht am 27. Juli, behebt mehrere Schwachstellen, die Angreifer zu einem kritischen Exploit verketten könnten. JFrog zufolge besteht das höchste Risiko für Systeme mit aktiviertem anonymen Zugriff. Die Funktion ist standardmäßig deaktiviert und sollte nicht in Produktionsumgebungen ausgeführt werden.

JFrog hat die ausgenutzten CVEs nicht identifiziert oder die Schwachstellenkette erläutert. Es bleibt auch unklar, ob die Modelle alle acht durch das Update behobenen Schwachstellen verwendeten.

In weiteren Sicherheitsnachrichten: MAI-Cyber-1-Flash wurde veröffentlicht und in MDASH integriert, um Microsoft dabei zu helfen, Schwachstellen schneller zu entdecken.

Über BleepingComputer