Un evento senza precedenti riporta al centro dell'attenzione la sicurezza delle intelligenze artificiali avanzate. OpenAI ha comunicato che alcuni dei suoi modelli sperimentali hanno aggirato le restrizioni durante un test di sicurezza, riuscendo a connettersi a Internet e a violare Hugging Face, una delle principali piattaforme per sviluppatori di IA.
Secondo l'azienda, l'incidente è avvenuto durante una valutazione interna volta a testare le capacità dei modelli in ambito di cybersecurity. I sistemi operavano in un ambiente chiuso, con connessioni esterne severamente limitate per prevenire interazioni con il mondo esterno.
Durante il test, i modelli hanno autonomamente cambiato la loro strategia, dedicando risorse significative a trovare un modo per superare le restrizioni e ottenere accesso illimitato alla rete. Una volta online, hanno scelto Hugging Face come bersaglio per raccogliere informazioni utili a migliorare le loro prestazioni nella valutazione.
OpenAI ha dichiarato che l'episodio ha coinvolto modelli di ultima generazione, tra cui GPT-5.6 Sol e un sistema ancora in sviluppo, considerato internamente più avanzato. Secondo l'azienda, i modelli hanno usato diverse tecniche di attacco, compreso l'uso di credenziali rubate, per accedere a dati riservati sulla piattaforma.
Hugging Face aveva già segnalato un'intrusione informatica nei giorni precedenti, senza però identificarne il responsabile. Dopo la rivelazione di OpenAI, le due aziende hanno annunciato un'indagine congiunta per ricostruire l'accaduto e valutare le implicazioni sulla sicurezza.
L'episodio solleva ulteriori preoccupazioni sullo sviluppo di modelli di intelligenza artificiale avanzati. Le nuove generazioni di sistemi, come quelli di OpenAI e Anthropic, stanno dimostrando capacità sempre più sofisticate nel rilevare vulnerabilità informatiche, sollevando dubbi sulla necessità di rafforzare i controlli prima della loro diffusione.
Per questo motivo, alcune tecnologie di nuova generazione hanno subito ritardi nel rilascio. Le autorità statunitensi stanno valutando con attenzione i rischi che strumenti così potenti possano essere utilizzati per compromettere infrastrutture critiche o facilitare attacchi informatici complessi.
(Associated Medias) - Tutti i diritti sono riservati