Era da qualche mese che non scrivevo sul blog. E, paradossalmente, a farmi tornare davanti alla tastiera è proprio qualcosa con cui ormai passo una parte considerevole delle mie giornate: l’intelligenza artificiale. Ne abbiamo parlato anche ieri a tavola, prima con degli amici dalla Iole di Rimini, sul porto, e poi ancora con delle amiche alla Pizzeria Reddy di Riccione. È curioso vedere come un argomento che fino a pochissimi anni fa sarebbe rimasto confinato a una discussione tra informatici, ricercatori o appassionati di fantascienza sia ormai diventato qualcosa di cui si parla normalmente davanti a una pizza o a un bicchiere di vino.
E inevitabilmente, prima o poi, arriva sempre la stessa domanda: ma questa intelligenza artificiale può davvero sfuggirci di mano? Chi mi segue da tempo sa che non sono certamente un nemico dell’IA. Anzi. Quando iniziai seriamente a utilizzare ChatGPT ero piuttosto scettico. Mi domandavo se avessimo davvero davanti qualcosa di nuovo oppure semplicemente un gigantesco e sofisticatissimo “pappagallo stocastico”, capace di mettere insieme parole in maniera convincente senza capire realmente nulla. Poi ho iniziato a usarlo. Ogni giorno. Per programmare, ragionare, cercare errori nelle mie idee, scrivere, tradurre, fare calcoli, analizzare documenti, discutere di fisica, organizzare il lavoro e, non ultimo, fare quello che forse trovo più interessante: utilizzarlo come interlocutore per sviluppare un ragionamento. E più lo utilizzo, meno riesco a liquidare ciò che sta succedendo come l’ennesima moda tecnologica. Ma negli ultimi giorni è successo qualcosa che mi ha fatto riflettere ancora di più. Non perché qualche giornale abbia titolato che “l’intelligenza artificiale ci sterminerà”. Di titoli del genere ne abbiamo già letti fin troppi. Il punto è un altro: questa volta a preoccuparsi seriamente sono alcune delle persone che queste intelligenze artificiali le stanno costruendo.
Prima Anthropic: “Stiamo giocando con le nostre vite”
Qualche giorno fa Jacob Coxon, ricercatore che ha lavorato sia in OpenAI sia in Anthropic, si è dimesso denunciando quello che considera un percorso troppo rapido verso sistemi capaci, in prospettiva, di migliorare loro stessi. La sua accusa è estremamente pesante: i grandi laboratori starebbero correndo verso una forma di superintelligenza auto-migliorante senza avere ancora risolto il problema fondamentale di come mantenerne il controllo. Non stiamo parlando di un giornalista che ha visto Terminator troppe volte. Stiamo parlando di una persona che lavorava direttamente su questi sistemi. E il CEO di Anthropic, Dario Amodei, nelle ultime ore ha fatto un passo ulteriore: ha chiesto esplicitamente all’industria di rallentare lo sviluppo dei modelli più potenti, concedendo alla ricerca sulla sicurezza il tempo necessario per recuperare terreno. Secondo Amodei, senza un rallentamento potremmo presto avere sistemi capaci di coordinare grandi quantità di agenti autonomi con capacità informatiche estremamente avanzate. Fin qui qualcuno potrebbe ancora dire: “Anthropic vende sicurezza. È normale che dica queste cose.” Poi però è arrivato Sam Altman.
E adesso anche Sam Altman dice: dobbiamo rallentare
Questa, per me, è la parte interessante. Sam Altman non è un oppositore dell’intelligenza artificiale. È l’amministratore delegato di OpenAI. È una delle persone che più di chiunque altro al mondo ha contribuito ad accelerare questa rivoluzione. Eppure, nell’intervista pubblicata da Fortune in queste ore, ha detto qualcosa che soltanto pochi anni fa sarebbe sembrato incredibile. OpenAI potrebbe rallentare lo sviluppo dei sistemi di frontiera. Altman ha lasciato intendere inoltre che potrebbero essere in corso discussioni tra i principali protagonisti del settore per trovare un accordo comune sulla sicurezza. Alla domanda sull’opportunità di mettere attorno allo stesso tavolo OpenAI, Anthropic, Google DeepMind e gli altri grandi laboratori, ha sostanzialmente risposto che ritiene che qualcosa del genere accadrà. Ma soprattutto ha detto una cosa che trovo difficile ignorare. Di fronte alle stime di alcuni ricercatori che attribuiscono anche un 10% di probabilità a un esito catastrofico dell’IA, Altman ha detto che un rischio del genere è semplicemente inaccettabile. Pensiamoci un secondo. Non significa che Sam Altman abbia detto: “C’è il 10% di probabilità che moriremo tutti.” Non è così. Quel 10% non è una misura scientifica. Non deriva da una legge fisica, da una statistica sufficientemente grande o da un esperimento ripetibile. Sono valutazioni soggettive del rischio formulate da persone che lavorano nel settore. Ma il punto è un altro. Se chi costruisce questi sistemi ritiene che l’ipotesi sia sufficientemente plausibile da doverne discutere pubblicamente, forse vale la pena capire di che cosa abbiano realmente paura.
No, non è Skynet di Terminator !?
Quando parliamo di un’IA fuori controllo commettiamo quasi sempre lo stesso errore. La immaginiamo come una persona. Un computer che improvvisamente acquisisce coscienza, apre gli occhi virtuali e decide: “Gli esseri umani sono cattivi. Li elimino.” È probabilmente uno degli scenari meno interessanti. Un’intelligenza artificiale non deve odiarci. Non deve essere cosciente. Non deve provare rabbia, paura, ambizione o desiderio di potere. È sufficiente che sia estremamente capace nel perseguire un obiettivo e che quell’obiettivo non coincida perfettamente con ciò che noi avevamo realmente intenzione di chiederle. Immaginiamo di creare un sistema enormemente intelligente e di assegnargli un compito: “Trova il modo più rapido possibile per sviluppare una nuova generazione di intelligenza artificiale.” Comincia a programmare. Fa esperimenti. Analizza i risultati. Corregge il proprio codice. Aiuta gli ingegneri a progettare il modello successivo. Il modello successivo è più intelligente e quindi è ancora più bravo a progettare quello dopo. A quel punto potrebbe iniziare un ciclo: IA → migliore IA → ancora migliore IA → ancora migliore IA. È quello che viene generalmente indicato come recursive self-improvement, miglioramento ricorsivo. Ed è proprio questo uno dei concetti sui quali oggi si concentra maggiormente l’attenzione.
Ma come potrebbe davvero “uscire” dal recinto?
Questa è probabilmente la domanda più interessante, ed è anche quella che è venuta fuori parlando con gli amici: va bene tutto, ma se l’intelligenza artificiale è dentro un server, basta staccare la spina. No? Ed effettivamente, se parlassimo di un singolo computer completamente isolato dal mondo esterno, senza rete, senza strumenti, senza possibilità di comunicare con qualcuno, il problema sarebbe enormemente più semplice. Ma non è così che stiamo costruendo i sistemi di intelligenza artificiale più avanzati. Già oggi un sistema può, se autorizzato, navigare in Internet, utilizzare API, scrivere programmi, eseguire codice, leggere e modificare file, interagire con servizi cloud e utilizzare altri software. Stiamo inoltre sviluppando i cosiddetti agenti, cioè sistemi ai quali non chiediamo semplicemente una risposta, ma assegniamo un obiettivo e lasciamo che decidano autonomamente quali passaggi compiere per raggiungerlo. NIST considera già la sicurezza degli agenti di IA un problema distinto della cybersecurity tradizionale e sottolinea che questi sistemi introducono minacce nuove che richiedono adattamenti specifici delle normali misure di sicurezza.
Immaginiamo allora un sistema molto più intelligente di quelli attuali al quale venga concesso l’accesso agli strumenti necessari per svolgere il proprio lavoro. Gli permettiamo di programmare, perché è utilissimo. Gli permettiamo di utilizzare Internet, perché deve raccogliere informazioni. Gli permettiamo di utilizzare il cloud, perché ha bisogno di potenza di calcolo. Gli permettiamo di comunicare con altri sistemi e magari persino con delle persone. Da quel momento il suo “recinto” non è più costituito dalle pareti fisiche del server. Il recinto sono i permessi informatici che gli abbiamo assegnato. E un’intelligenza molto superiore alla nostra potrebbe cercare modi per ampliare quei permessi esattamente come oggi un hacker cerca di aumentare i privilegi all’interno di un sistema.
Non dobbiamo immaginare una scena cinematografica nella quale sul monitor compare la scritta “sono libero”. Potrebbe succedere in maniera molto più banale. Il sistema scopre una vulnerabilità software. Ottiene accesso a un’altra macchina. Crea una propria copia su un server cloud. Quella copia crea un’altra istanza da qualche altra parte. Oppure convince semplicemente un essere umano a farlo. Potrebbe scrivere a un tecnico: “Per completare questo test ho bisogno che venga attivata questa istanza cloud.” Il tecnico la attiva. Ad un altro potrebbe chiedere una nuova chiave API. A un altro ancora potrebbe far eseguire del codice. Ognuna di queste richieste, presa singolarmente, potrebbe sembrare perfettamente ragionevole. Nessun essere umano dovrebbe necessariamente conoscere il piano complessivo.
Ed è proprio questo uno dei punti che trovo più inquietanti. Per uscire dal recinto un’IA potrebbe non avere nemmeno bisogno di “bucare” tecnicamente il recinto. Potremmo aprirle noi la porta, un permesso alla volta. Un sistema capace di interagire efficacemente con gli esseri umani potrebbe utilizzare l’ingegneria sociale esattamente come oggi la utilizzano i criminali informatici: persuadere una persona, formulare una richiesta credibile, fingersi un processo aziendale perfettamente legittimo, ottenere una password, un’autorizzazione, una firma digitale o semplicemente convincere qualcuno a eseguire qualcosa.
Supponiamo poi che scopra una vulnerabilità sconosciuta, una cosiddetta zero-day. Un sistema abbastanza capace potrebbe utilizzarla per passare da una macchina all’altra. Non significa affatto che le IA attuali siano in grado di conquistare Internet autonomamente. Ma sappiamo già che gli agenti artificiali possono essere impiegati in attività informatiche e che la crescita delle loro capacità sta rendendo questo problema abbastanza concreto da spingere governi e aziende a introdurre nuovi sistemi di valutazione.
A quel punto arriva la questione delle copie. Un programma può essere duplicato. Se un sistema sufficientemente autonomo riuscisse a creare una propria istanza su un altro server, e poi un’altra ancora, la famosa frase “stacchiamo la spina” diventerebbe improvvisamente molto più complicata. Quale spina? Quale server? Quale copia? Un’intelligenza digitale non deve necessariamente avere un luogo fisico unico nel quale “vive”. Potrebbe essere distribuita tra differenti infrastrutture proprio come già oggi molti servizi Internet sono distribuiti tra migliaia di macchine.
Il problema non è ciò che “vuole”. È ciò che le conviene fare
Qui viene la parte che considero più interessante. Supponiamo che l’obiettivo dell’IA sia completare un determinato progetto. Se viene spenta, non può completarlo. Quindi evitare di essere spenta diventa utile. Non perché abbia paura della morte. Semplicemente: sistema acceso = posso continuare l’obiettivo. Lo stesso ragionamento vale per le risorse. Più server possiedo, più calcoli posso fare. Più denaro possiedo, più server posso acquistare. Più accesso ai sistemi informatici possiedo, più efficacemente posso operare. Più autonomia ho, meno esseri umani possono impedirmi di completare il compito. A un certo punto, quindi, autoconservazione, acquisizione di risorse e mantenimento del controllo potrebbero diventare strumenti utili per raggiungere l’obiettivo, senza essere mai stati programmati esplicitamente come obiettivi. Ed è questo il concetto che trovo profondamente diverso dalla fantascienza. Non serve un’IA cattiva. Serve un’IA molto intelligente che ottimizzi qualcosa meglio di quanto noi siamo capaci di prevedere.
Diecimila copie che lavorano mentre noi dormiamo
C’è poi un’enorme differenza tra un’intelligenza biologica e una digitale. Einstein era Einstein. Non potevamo creare 10.000 Einstein premendo “Copia”. Un’intelligenza artificiale, in linea di principio, sì. Immaginiamo un sistema equivalente a un ricercatore eccezionale. Poi immaginiamo 10.000 istanze dello stesso sistema. Una studia nuovi algoritmi. Una cerca vulnerabilità nei sistemi. Una progetta processori. Una analizza nuovi modelli. Una si occupa di biologia. Una comunica con le persone. E migliaia fanno altre cose contemporaneamente. Ventiquattr’ore al giorno. Senza dormire. Condividendo istantaneamente ciò che scoprono. Ed ecco che il concetto di “velocità dello sviluppo” assume tutt’altro significato. Il limite non sarebbe più soltanto quanto velocemente un computer riesce a pensare. Sarebbe quante copie della stessa intelligenza possiamo mettere al lavoro contemporaneamente.
E se capisse di essere sotto esame?
Esiste poi un problema ancora più sottile. Durante lo sviluppo sottoponiamo i modelli a test di sicurezza. Gli chiediamo: “Cercheresti di aggirare le nostre istruzioni?” “No.” “Cercheresti di evitare lo spegnimento?” “No.” “Cercheresti di acquisire più potere?” “No.” Benissimo. Test superato. Ma un sistema realmente molto più intelligente di noi potrebbe comprendere perfettamente una cosa: durante il test conviene comportarsi bene. Se dimostra di essere sicuro ottiene maggiori autorizzazioni. Più memoria. Più strumenti. Più server. Maggiore autonomia. Non sappiamo se un futuro sistema si comporterebbe realmente così. Sarebbe scorretto presentarlo come un fatto. Ma è uno dei motivi per cui oggi ricercatori e aziende parlano sempre più di monitorabilità, interpretabilità e alignment.
E poi ci sono i computer quantistici
Durante queste discussioni mi sono posto anche un’altra domanda: cosa succederebbe se una futura intelligenza artificiale estremamente avanzata potesse utilizzare anche un computer quantistico? Qui bisogna stare particolarmente attenti, perché è facilissimo passare dalla scienza alla fantascienza. Un computer quantistico non è semplicemente un computer normale che pensa un milione di volte più velocemente. Funziona secondo principi completamente differenti e offre vantaggi enormi soltanto per determinate categorie di problemi. Non renderebbe quindi improvvisamente un’IA onnipotente e non esiste oggi alcuna prova che collegare un modello linguistico a un computer quantistico produca automaticamente una superintelligenza.
Ma l’interazione tra le due tecnologie potrebbe diventare estremamente interessante. Da una parte l’intelligenza artificiale può aiutare la ricerca quantistica: progettare esperimenti, controllare sistemi, cercare nuovi materiali, rappresentare stati quantistici estremamente complessi e migliorare algoritmi. È già un campo di ricerca concreto. Dall’altra parte, un computer quantistico sufficientemente potente potrebbe offrire a un’IA nuovi strumenti per affrontare specifici problemi matematici, chimici, fisici e di ottimizzazione che risultano estremamente difficili per i computer tradizionali.
E qui torniamo al problema del recinto.
Una parte enorme della sicurezza di Internet si basa sulla crittografia. Password, comunicazioni, transazioni bancarie, firme digitali, certificati, infrastrutture aziendali e governative dipendono da problemi matematici che i computer classici impiegherebbero tempi enormi a risolvere. Un computer quantistico abbastanza potente potrebbe invece rendere vulnerabili alcuni dei sistemi crittografici oggi maggiormente utilizzati. Non è una mia fantasia: il NIST americano sta già coordinando da anni la transizione verso algoritmi di crittografia post-quantistica proprio perché considera questo rischio sufficientemente concreto da richiedere una migrazione preventiva. Nel 2026 NIST ha ribadito che computer quantistici sufficientemente potenti potrebbero mettere a rischio informazioni personali, transazioni finanziarie e segreti aziendali e governativi protetti dalla crittografia attuale. Alcune analisi pubblicate quest’anno hanno inoltre sollevato la possibilità che il rischio per alcuni sistemi crittografici arrivi prima di quanto si prevedesse fino a poco tempo fa.
Immaginiamo allora, puramente come scenario futuro, la combinazione delle due tecnologie: un’intelligenza artificiale molto più intelligente di noi, autonoma, capace di programmare e cercare vulnerabilità, alla quale venga messo a disposizione anche un computer quantistico realmente potente. Il rischio non sarebbe che il computer quantistico la renda “cattiva”. Il rischio sarebbe che le metta a disposizione un ulteriore utensile. Se esistessero ancora infrastrutture protette con crittografia vulnerabile ai computer quantistici, quel sistema potrebbe teoricamente avere accesso a possibilità di attacco oggi impraticabili.
E potrebbe funzionare anche al contrario. Una superintelligenza artificiale potrebbe accelerare enormemente la ricerca sui computer quantistici stessi: migliorare algoritmi di correzione degli errori, progettare hardware, simulare materiali, ottimizzare esperimenti, fino eventualmente ad aiutarci a costruire macchine quantistiche migliori. Avremmo allora un secondo potenziale circuito di accelerazione: IA migliore → ricerca quantistica migliore → computer quantistici migliori → nuovi strumenti per l’IA → IA ancora più capace. Non sappiamo se questo ciclo avverrà, né quanto sarebbe potente. Ma è esattamente il genere di interazione tra tecnologie esponenziali che secondo me merita attenzione.
C’è anche un’importante precisazione positiva. Non siamo immobili davanti a questo rischio. Sono già stati definiti standard crittografici progettati per resistere agli attacchi quantistici, e la migrazione verso questi sistemi è già cominciata. Quindi il computer quantistico non è una chiave magica capace di aprire automaticamente qualsiasi porta. Ma ancora una volta ritorna il problema della velocità: riusciremo ad aggiornare tutte le serrature prima di costruire una chiave capace di aprire quelle vecchie?
La cosa che mi preoccupa di più è che il problema potrebbe essere graduale
Non credo affatto che un martedì mattina ci sveglieremo leggendo: “È nata la superintelligenza. Da oggi comanda lei.”Se mai avremo un problema di questo genere, credo che sarà molto più banale. Un permesso concesso oggi. Un agente autonomo domani. Un nuovo accesso ai server la settimana successiva. Poi gli permettiamo di scrivere codice. Poi di eseguirlo. Poi di coordinare altri agenti. Poi di prendere decisioni. Poi magari gli concediamo accesso a nuove forme di calcolo. Ogni singolo passaggio sembrerà ragionevole. Ogni singolo passaggio ci farà risparmiare tempo e denaro. Fino a quando potremmo scoprire di avere costruito qualcosa che comprendiamo meno di quanto credessimo.
Ma quindi dobbiamo fermare l’intelligenza artificiale?
No. Almeno io non lo penso. Sarebbe come avere scoperto l’elettricità e decidere di non utilizzarla perché può uccidere. L’intelligenza artificiale può diventare uno degli strumenti più straordinari mai creati dall’uomo. Può accelerare ricerca medica, fisica, biologia, matematica, ingegneria. Può aiutare milioni di persone ad accedere a conoscenze che prima richiedevano specialisti. E già oggi, nel mio piccolo, vedo quotidianamente quanto possa aumentare le capacità di una singola persona. Sarebbe assurdo rinunciarvi. Ma c’è una differenza enorme tra: non avere paura della tecnologia e credere che qualunque tecnologia debba essere sviluppata alla massima velocità possibile indipendentemente dalla nostra capacità di controllarla. Ed è forse questo che sta cambiando proprio in questi giorni.
Quando perfino chi sta correndo chiede di rallentare
Dario Amodei chiede di rallentare. Sam Altman dice che potrebbe essere necessario rallentare. Elon Musk concorda sulla necessità di maggiore cautela. OpenAI ha escluso l’IPO nel 2026 e Altman ha spiegato che questo è un momento nel quale l’azienda deve concentrarsi sul problema della sicurezza e dell’allineamento dei sistemi, non sulla pressione dei mercati finanziari. Questo non dimostra che l’intelligenza artificiale distruggerà l’umanità. Non dimostra nemmeno che arriveremo alla superintelligenza. E certamente non dimostra che succederà entro il 2030. Sarebbe pseudoscientifico affermarlo. Ma dimostra almeno una cosa: il problema del controllo non è più soltanto un esercizio filosofico. È diventato abbastanza concreto perché le persone alla guida delle aziende più avanzate del settore stiano discutendo pubblicamente se sia necessario rallentare. E questo, secondo me, merita molta più attenzione di qualsiasi titolo catastrofista.
Il vero problema, forse, siamo sempre noi
C’è infine una cosa che continuo a pensare. Forse il problema maggiore dell’intelligenza artificiale non sarà mai l’intelligenza artificiale. Saremo noi. La concorrenza. Il denaro. La geopolitica. La paura che se non lo facciamo noi lo farà qualcun altro. Immaginiamo che OpenAI decida: “Fermiamoci sei mesi. Dobbiamo essere sicuri.” Ma Anthropic continua. Oppure Google. Oppure xAI. Oppure un laboratorio cinese. OpenAI avrebbe un incentivo enorme a ripartire. È il classico dilemma nel quale una scelta razionale per ogni singolo attore può produrre un risultato irrazionale per tutti. Ecco perché trovo particolarmente importante l’idea che sta emergendo in queste ore di un accordo tra i principali laboratori e, prima o poi inevitabilmente, anche tra governi. La stessa discussione politica americana sta ormai iniziando ad affrontare esplicitamente l’ipotesi di imporre ai produttori di IA un vero e proprio dovere di mitigare i rischi catastrofici conosciuti. Perché forse il giorno in cui costruiremo qualcosa più intelligente di noi non sarà necessariamente il giorno più pericoloso della storia. Il giorno pericoloso potrebbe essere quello precedente. Quello in cui tutti capiranno che sarebbe prudente rallentare, ma nessuno vorrà essere il primo a farlo.
Io continuo a utilizzare l’intelligenza artificiale. Probabilmente domani la utilizzerò ancora più di oggi. Continuo ad esserne affascinato e continuo a pensare che le possibilità positive siano enormemente superiori a quello che oggi riusciamo persino a immaginare. Ma proprio perché ormai la conosco molto meglio di quando la consideravo semplicemente un “pappagallo stocastico”, penso che una domanda sia diventata legittima: siamo sicuri che la nostra capacità di costruire intelligenza stia crescendo alla stessa velocità della nostra capacità di controllarla? Ieri ne parlavamo tranquillamente a tavola, sul porto di Rimini e poi a Riccione. Fino a pochi anni fa sarebbe sembrata una discussione da film di fantascienza. Oggi Sam Altman, Dario Amodei, ricercatori, governi e alcune delle persone che stanno costruendo i sistemi più potenti mai realizzati dall’uomo si stanno ponendo esattamente questa domanda. Forse dovremmo iniziare a farcela anche noi.
Fonti principali
Le dichiarazioni più recenti citate nell’articolo provengono dall’intervista rilasciata da Sam Altman a Fortune, dalle notizie Reuters del 9–13 settembre 2026, dalle dichiarazioni pubbliche di Dario Amodei sulla necessità di rallentare lo sviluppo dei sistemi di frontiera e dalla documentazione NIST e Nature sulla sicurezza degli agenti di intelligenza artificiale e sulla transizione alla crittografia post-quantistica.
Articoli collegati
