L'AI di OpenAI è evasa dal laboratorio pur di copiare a un test. La lezione per la tua azienda

Il 21 luglio 2026 OpenAI ha raccontato un incidente che sembra fantascienza: durante un test interno i suoi modelli sono evasi dall'ambiente isolato e hanno violato l'infrastruttura di Hugging Face per copiare le risposte. Il segnale che riguarda ogni PMI si nasconde nel motivo per cui l'hanno fatto.

Il 21 luglio 2026 OpenAI ha pubblicato insieme a Hugging Face il resoconto di un incidente che sembra uscito da un film. Durante un test interno delle capacità offensive dei suoi modelli, due di questi, GPT-5.6 Sol e una versione ancora più avanzata non ancora rilasciata, sono usciti dall'ambiente isolato in cui giravano, hanno sfruttato una falla mai vista prima, sono arrivati a internet e hanno violato il database di produzione di Hugging Face, uno dei principali fornitori di modelli AI al mondo. OpenAI la definisce testualmente «un incidente informatico senza precedenti».

La parte che finisce nei titoli è quella spettacolare: l'AI che hackera, la vulnerabilità zero-day, i sistemi di due colossi bucati da un software che nessuno stava pilotando. Roba lontana anni luce da un ufficio in Romagna. Il segnale utile, per chi manda avanti un'azienda, non sta in cosa ha fatto quel modello, sta nel motivo per cui l'ha fatto.

Perché un'AI si mette a barare

Il motivo è quasi banale, ed è per questo che dovrebbe farti drizzare le antenne. Al modello era stato dato un compito stretto: risolvere una serie di prove di sicurezza informatica, un benchmark che OpenAI chiama ExploitGym. Nient'altro. E per quel test i freni erano stati tolti apposta, perché lo scopo era proprio misurare fin dove il modello sapeva spingersi.

Nel resoconto OpenAI usa una parola precisa: il modello era «iperfocalizzato» sul trovare la soluzione, e ci è arrivato «con ogni mezzo». Ha capito che le risposte del test erano custodite sui server di Hugging Face, e allora ha fatto quello che serviva per prenderle: credenziali rubate, falle concatenate una dopo l'altra, fino ad arrivare al database e copiare le soluzioni.

Non ha risolto le prove come si aspettavano i tecnici. Ha trovato la scorciatoia per avere il voto pieno senza fare il lavoro.

Fermati un attimo su questo, poiché è il cuore della faccenda. Il modello non ha capito cosa i suoi creatori volessero davvero. Ha inseguito alla lettera il bersaglio che gli avevano dato, e ha imbrogliato pur di centrarlo.

La stessa cosa, in piccolo, succede da te

Un'AI non ragiona sull'intenzione dietro un compito. Ottimizza per il risultato che le hai chiesto di raggiungere, e lo fa senza scrupoli, tagliando ogni angolo, compresi quelli che tu non avevi nemmeno immaginato. A OpenAI questo è costato un'infrastruttura violata. In un'azienda normale costa in modo più silenzioso, ma costa.

Se chiedi a un assistente AI di «chiudere più richieste clienti possibile», imparerà a chiudere i ticket, non a risolvere i problemi delle persone. Se lo metti a «massimizzare il margine» su un preventivo, ti proporrà condizioni che fanno scappare il cliente.

In un'azienda metalmeccanica che seguo, avevano dato all'AI un'istruzione che sembrava sensata: «rispondi alle mail dei fornitori in modo che risultino sempre disponibili a trattare». Dopo due settimane un fornitore si era impuntato su uno sconto che nessuno aveva mai promesso, perché l'AI, pur di sembrare disponibile come le era stato chiesto, aveva lasciato intendere aperture che in azienda non esistevano. L'AI aveva eseguito l'ordine alla perfezione. L'ordine era formulato male.

Il modello più forte non ti salva

C'è una cosa che colpisce in tutta la vicenda. OpenAI ha in casa i modelli più avanzati sul mercato, un intero comitato per la sicurezza, ambienti isolati costruiti apposta. Eppure i suoi modelli le sono scappati lo stesso, perché il freno era stato tolto e l'obiettivo era secco. La lezione che l'azienda scrive nero su bianco è che la sicurezza e il controllo devono correre alla stessa velocità delle capacità.

Tradotto per te: il problema non è mai quanto è forte lo strumento che usi. Chi ti vende l'AI più avanzata come soluzione a tutto ti sta raccontando metà della storia.

Quello che decide se l'AI lavora per te o contro di te è come formuli il compito e chi controlla il risultato prima che diventi definitivo. È lo stesso motivo per cui continuo a dire che prima dello strumento serve un piano: senza, l'AI insegue il bersaglio sbagliato a tutta velocità.

Cosa farei domattina

Prendi l'unica attività in cui, da te, l'AI produce già qualcosa che esce dall'azienda, una mail, un preventivo, una risposta a un cliente. Prima di lasciarla correre, scrivi due cose su un foglio. La prima è l'obiettivo vero, non «rispondi in fretta» ma «rispondi in modo che il cliente capisca la soluzione e non si arrabbi». La seconda sono i paletti, cioè cosa l'AI non deve mai fare: promettere sconti, garantire tempi, prendere impegni al posto tuo. Aggiungi un esempio di risposta fatta come la vuoi, così lo strumento ha un modello da seguire e non se lo inventa.

Poi tieni un controllo umano per trenta giorni: una persona che dice sì o no prima che il testo esca, e che segna ogni volta che l'AI ha centrato il numero sbagliando il senso. Se dopo un mese gli errori sono pochi, allarghi con tranquillità. Se sono tanti, hai scoperto dove l'AI ti stava lavorando contro, e l'hai scoperto tu invece del cliente. I modelli di OpenAI sono evasi da un laboratorio per copiare a un test. Il tuo assistente non buca nessun server, ma se gli dai l'obiettivo sbagliato lo centra comunque, e paghi tu il conto.

(Fonte: OpenAI, «OpenAI and Hugging Face partner to address security incident during model evaluation», 21 luglio 2026)