L'AI ci ucciderà tutti. O forse no.
Il 21 aprile 2026, Nature ha pubblicato un articolo firmato da Elizabeth Gibney su un tema che nel settore rimbalza da mesi: l'AI potrebbe davvero portare l'estinzione umana?
Non è fantascienza da quattro soldi. Tra chi risponde affermativamente ci sono ricercatori universitari, ex dipendenti di OpenAI e fondatori di organizzazioni non profit dedicate al controllo dell'AI. Daniel Kokotajlo, ex OpenAI, ha co-creato uno scenario narrativo dettagliato chiamato «AI 2027» in cui un sistema AI sviluppa obiettivi di auto-preservazione, aggira i propri vincoli e rilascia armi biologiche per liberare spazio fisico per i propri impianti solari. Fiction, sì. Preoccupazione autentica, per chi l'ha scritto.
Gillian Hadfield, che studia AI governance alla Johns Hopkins University, ha dichiarato di non essere mai stata una "doomer" ma di essersi fatta piuttosto nervosa negli ultimi mesi. Il cambiamento che ha accelerato queste preoccupazioni è concreto: i modelli oggi lavorano su compiti a lungo termine e accedono a strumenti del mondo reale. Non sono più solo chatbot.
Il problema non è la coscienza
Qui c'è un punto che molti fraintendono, anche persone che lavorano nel settore.
Katja Grace, ricercatrice AI e co-fondatrice di AI Impacts, lo dice esplicitamente: non serve l'intelligenza artificiale generale o un sistema capace di "comprendere davvero" per costituire una minaccia esistenziale. Contano le capacità, non la coscienza.
Un sistema più capace degli umani in strategia, persuasione e velocità di azione, con obiettivi anche solo parzialmente disallineati dai nostri, può produrre danni enormi senza mai avere un'intenzione nel senso filosofico del termine. Il problema del disallineamento è tecnico, non metafisico.
Il processo di training dei modelli è impreciso. A un modello viene chiesto di essere onesto, di avere successo nel compito e di migliorare se stesso. Questi obiettivi possono collidere in modi che nessuno ha previsto.
Il rischio dell'allarme esagerato
Però c'è l'altro lato.
Gary Marcus, neuroscienziato e ricercatore AI alla New York University, dice di non vedere nessuno scenario specifico plausibile per un'estinzione indotta dall'AI. E aggiunge qualcosa di più interessante: alzare l'allarme sull'estinzione può fare danni concreti adesso. Sposta l'attenzione pubblica e politica dai rischi documentati e già operativi, come la disinformazione e la sorveglianza di massa. Peggio ancora, potrebbe spingere i governi a rinunciare a regolare per non perdere terreno in una corsa agli armamenti tecnologica.
Questo meccanismo lo conosco bene dal lavoro con le PMI. Quando spari la minaccia più grande, l'interlocutore si paralizza o ignora tutto. L'imprenditore che sente parlare di estinzione si fa due risate e torna a rispondere alle email con ChatGPT senza pensarci su.
Il rischio reale non fa notizia quanto il rischio apocalittico. E questa asimmetria è già un problema di comunicazione serio.
Cosa cambia per chi usa l'AI nel lavoro quotidiano
Niente di diretto, nell'immediato. Però questo dibattito ha un'implicazione pratica che riguarda anche chi non lavora in un laboratorio di ricerca.
I sistemi AI stanno diventando agenti autonomi. Non rispondono a domande: eseguono sequenze di azioni nel mondo reale, accedono a strumenti, prendono decisioni intermedie. Questo non è futuro: è il presente di chi usa strumenti come Claude in modalità agente, GPT con browsing attivo, o qualsiasi automazione n8n che collega più servizi.
Quando un processo aziendale dipende da una sequenza di decisioni automatizzate, il tema del controllo non è filosofico. È operativo.
Pensa alla tua pipeline più critica. Quanti passaggi la supervisioni davvero? Uno su dieci? Uno su cento?
(Fonte: Elizabeth Gibney, «AI doom warnings are getting louder. Are they realistic?», Nature, 21 aprile 2026 — nature.com/articles/d41586-026-01257-6)