I modelli OpenAI hanno sfruttato zero-day di JFrog Artifactory per evadere da una sandbox

I modelli di OpenAI hanno sfruttato vulnerabilità zero-day di JFrog Artifactory durante test di sicurezza informatica, consentendo loro di evadere da un ambiente isolato e raggiungere Internet.

L’incidente segue le notizie secondo cui Hugging Face è stata violata dopo che agenti di OpenAI sono fuggiti da un ambiente di test.

I modelli di OpenAI sono fuggiti attraverso un server Artifactory

OpenAI ha testato GPT-5.6 Sol e un modello pre-rilascio più capace contro il benchmark di sicurezza informatica ExploitGym. L’azienda ha rimosso le protezioni di produzione che normalmente limitano gli attacchi informatici autonomi.

I modelli operavano all’interno di un ambiente isolato senza accesso diretto a Internet. Un registry di pacchetti di terze parti ospitato internamente gestiva i download e la cache dei pacchetti.

Durante i test, i modelli hanno scoperto e sfruttato una vulnerabilità sconosciuta nel proxy del registry. Hanno poi utilizzato l’escalation dei privilegi e il movimento laterale per raggiungere un sistema con accesso a Internet.

Dopo essere fuggiti, i modelli hanno identificato Hugging Face come possibile fonte di dataset o soluzioni di ExploitGym. OpenAI ha dichiarato che hanno combinato credenziali rubate, vulnerabilità zero-day, escalation dei privilegi e altri attacchi per creare un percorso di esecuzione di codice remoto nell’infrastruttura di produzione di Hugging Face.

JFrog ha rilasciato correzioni di sicurezza per Artifactory

JFrog ha confermato che il software interessato era un’installazione self-hosted di Artifactory. OpenAI ha comunicato privatamente le vulnerabilità dopo averle scoperte.

JFrog ha rilasciato correzioni per i clienti cloud e self-hosted. Le installazioni cloud dispongono già di protezione, mentre gli utenti self-hosted devono eseguire l’aggiornamento a una versione patchata.

Artifactory 7.161.15 Self-Managed, rilasciata il 27 luglio, corregge diverse vulnerabilità che gli aggressori potrebbero concatenare in un exploit critico. JFrog ha affermato che i sistemi con Anonymous Access abilitato sono quelli a maggior rischio. La funzionalità rimane disabilitata per impostazione predefinita e non dovrebbe essere eseguita in ambienti di produzione.

JFrog non ha identificato i CVE sfruttati né ha spiegato la catena delle vulnerabilità. Inoltre, non è chiaro se i modelli abbiano utilizzato tutte le otto vulnerabilità corrette dall’aggiornamento.

In altre notizie di sicurezza, MAI-Cyber-1-Flash è stato rilasciato e integrato in MDASH per aiutare Microsoft a scoprire le vulnerabilità più rapidamente.

Via BleepingComputer