I modelli di OpenAI hanno sfruttato vulnerabilità zero-day di JFrog Artifactory per uscire da una sandbox

I modelli di OpenAI hanno sfruttato vulnerabilità zero-day di JFrog Artifactory durante test di sicurezza informatica, riuscendo a fuggire da un ambiente isolato e a raggiungere Internet.

L’incidente segue le segnalazioni che Hugging Face è stata violata dopo che agenti di OpenAI sono evasi da un ambiente di test.

I modelli di OpenAI sono evasi attraverso un server Artifactory

OpenAI ha testato GPT-5.6 Sol e un modello pre-release più potente contro il benchmark di sicurezza informatica ExploitGym. L’azienda ha rimosso le protezioni di produzione che normalmente limitano gli attacchi informatici autonomi.

I modelli operavano all’interno di un ambiente isolato senza accesso diretto a Internet. Un registro pacchetti di terze parti ospitato internamente gestiva il download e la memorizzazione nella cache dei pacchetti.

Durante i test, i modelli hanno scoperto e sfruttato una vulnerabilità sconosciuta nel proxy del registro. Hanno poi utilizzato l’elevazione dei privilegi e il movimento laterale per raggiungere un sistema con accesso a Internet.

Dopo essere fuggiti, i modelli hanno identificato Hugging Face come una possibile fonte dei dataset o delle soluzioni di ExploitGym. OpenAI ha dichiarato che hanno combinato credenziali rubate, vulnerabilità zero-day, elevazione dei privilegi e altri attacchi per creare un percorso di esecuzione di codice in remoto nell’infrastruttura di produzione di Hugging Face.

JFrog ha rilasciato correzioni di sicurezza per Artifactory

JFrog ha confermato che il software interessato era un’installazione Artifactory in hosting autonomo. OpenAI ha comunicato privatamente le vulnerabilità dopo averle scoperte.

JFrog ha rilasciato correzioni per i clienti cloud e per quelli con installazioni autonome. Le installazioni cloud sono già protette, mentre gli utenti con hosting autonomo devono eseguire l’aggiornamento a una versione corretta.

Artifactory 7.161.15 Self-Managed, rilasciata il 27 luglio, corregge diverse vulnerabilità che un utente malintenzionato potrebbe concatenare in un exploit critico. JFrog ha dichiarato che i sistemi con Anonymous Access abilitato sono quelli a maggior rischio. La funzionalità rimane disabilitata per impostazione predefinita e non dovrebbe essere eseguita in ambienti di produzione.

JFrog non ha identificato le CVE sfruttate né ha spiegato la catena di vulnerabilità. Non è inoltre chiaro se i modelli abbiano utilizzato tutte le otto vulnerabilità affrontate dall’aggiornamento.

Tra le altre notizie di sicurezza, MAI-Cyber-1-Flash è stato rilasciato e integrato in MDASH per aiutare Microsoft a scoprire le vulnerabilità più rapidamente.

Via BleepingComputer