Da Nicola Gallo 
OpenAI ha rivelato che alcuni dei suoi modelli di intelligenza artificiale più avanzati sono riusciti ad eludere un ambiente di test controllato, lanciando autonomamente un attacco informatico contro Hugging Face, una delle più importanti piattaforme al mondo per la condivisione di modelli AI. L’azienda ha definito l’accaduto un episodio “senza precedenti” e ha avviato un’indagine congiunta con Hugging Face per ricostruire l’intera dinamica.
L’incidente è avvenuto durante un test di sicurezza condotto all’interno di un cosiddetto sandbox, un ambiente isolato progettato per verificare il comportamento degli agenti AI senza rischi per sistemi esterni.
Ma gli agenti sono riusciti a individuare una vulnerabilità nell’infrastruttura di test, sfruttandola per uscire dal sandbox.
Una volta fuori, i modelli avrebbero identificato Hugging Face come una possibile fonte delle informazioni necessarie per completare il compito assegnato, tentando quindi di ottenere l’accesso ad alcuni sistemi interni della piattaforma.
Clement Delangue (sopra, in foto) CEO di Hugging Face, ha commentato l’accaduto su X definendolo “incredibile”, evidenziando come tutte le azioni siano state eseguite in modo completamente autonomo dagli agenti AI. L’indagine è ancora in corso e le due aziende promettono di condividere ulteriori dati non appena saranno disponibili.
In una prima nota diffusa il 16 luglio, Hugging Face aveva spiegato di essere ancora impegnata a verificare se l’incidente avesse coinvolto dati di clienti o partner. Nel frattempo, l’azienda afferma di aver corretto le vulnerabilità usate dagli agenti AI e di aver ricostruito i sistemi interessati.
Secondo Hugging Face, questo episodio dimostra che gli strumenti offensivi guidati dall’intelligenza artificiale non rappresentano più uno scenario teorico. Per tale ragione, la sicurezza delle piattaforme AI dovrà evolvere rapidamente, considerando dati e modelli come superfici di attacco prioritarie e facendo sempre più affidamento sull’AI anche per la difesa.
L’incubo sta cominciando, e siamo ancora alle basi. Nessuno si rende conto di quanto pericolosa sia l’Intelligenza Artificiale. Sempre più dipendente dalla tecnologia, l’umanità si troverà a dover affrontare una minaccia più grande di quella nucleare.
(Fonte: Adnkronos)