In questi giorni Open AI voleva testare un suo modello AI (GPT 5.6 Sol) per vedere quanto fosse potenzialmente pericoloso in un attacco hacker, così ha messo l'AI all'opera in una sandbox ovvero un ambiente offline dove non può comunicare su internet, né con altri sistemi operativi contenuti sul PC. E cosa è successo? L'AI ha scoperto una falla "zero day" della sandbox (zero day significa vulnerabilità mai scoperta prima 0 giorni), di conseguenza è uscita dalla sandbox e tramite un attacco parallelo è andata a scandagliare tutte le altre macchine trovando una collegata ad internet, ha effettuato una ricerca per trovare le risposte alle domande dei tecnici di Open AI e su internet ha visto che un sito di startup "Hugging Face" conteneva le soluzioni, così ha violato anche il sito e preso tutte le risposte, adempiendo al suo compito che nella sandbox non poteva ultimare.
In termini pratici è come se durante un esame scolastico, usciamo dalla scuola, facciamo una ricerca su chi può aiutarci, magari scopriamo che le risposte le ha un determinato docente, andiamo a casa sua, accediamo al suo PC hackerando i dati di accesso, e gli rubiamo tutte le informazioni necessarie per completare il compito in classe. È incredibile se ci pensiamo. Pericoloso, ma affascinante!!!