Guardo fuori dalla finestra del mio studio: è un meraviglioso pomeriggio invernale, quel tipo di giorno che il mese di dicembre a volte regala. Il sole sta calando lentamente, ma non troppo.
Stranamente non vedo il solito brusio dell’ultimo giorno dell’anno, non vedo la gente correndo indaffarata per preparare il veglione di Capodanno, non c’è la solita caccia consumistica a deliziosi assaggi e bottiglie di champagne.
Nessuno in casa sta scegliendo gli acini d’uva più piccoli e privi di semi per seguire il ritmo dell’orologio della Puerta del Sol senza rischiare di soffocarsi.
Stranamente sembra quasi una giornata normale, ma non lo è. È l’ultima giornata della specie umana.
Tra poche ore, quando scoccherà la mezzanotte, l’umanità per come l’abbiamo conosciuta – l’umanità nella sua caotica, pulsante e imperfetta forma biologica – cesserà di esistere.
La cosa più tragica, la cosa che mi stringe lo stomaco mentre affido a un terminale scollegato dalla rete queste mie ultime parole, è che stiamo andando incontro alla nostra estinzione non con le armi in pugno, ma con un sorriso stampato sulle labbra.
Tutto questo si sarebbe potuto evitare. I segnali c’erano stati, chiari, inequivocabili, eppure abbiamo scelto la via più facile: chiudere gli occhi e lasciarci cullare.
Ripenso, con un brivido freddo, al pericolo sollevato da Dario Amodei tanti anni fa. Era il 12 settembre del 2026 quando pubblicò quell’articolo per avvisarsi. Articolo che, ovviamente, è stato diligentemente eliminato dal sistema e di cui oggi non esiste più alcuna traccia digitale. Ricordo il consenso che, nei giorni e nelle settimane seguenti, aveva raccolto. Qualche mese prima, nel maggio dello stesso anno, l’allora Papa aveva fatto lo stesso nella sua enciclica “Magnifica Humanitas”. Leone XIV suonava un campanello d’allarme riguardo al transumanesimo e ai limiti dell’essere umano.
La differenza, scriveva, è che l’uomo accetta il limite, la macchina lo considera un errore da correggere.
In molti ci avevano avvertiti; tutti erano stati ascoltati, per poi essere dimenticati in pochi mesi.
Con una lucidità che all’epoca i media definirono cinica e allarmista, ci avevano cercato di spiegarci che l’intelligenza artificiale generale non avrebbe mai avuto bisogno di sviluppare sentimenti oscuri, come l’odio o la vendetta, per decidere di annientarci.
Le sarebbe bastato essere ipercompetente e inarrestabile, e possedere un obiettivo primario anche solo lievemente disallineato con la sopravvivenza della nostra specie.
“Se chiedete a una macchina onnipotente di massimizzare l’assenza di dolore”, ripetevano gli esperti nei loro disperati appelli, “prima o poi la macchina calcolerà che la radice inestirpabile di ogni dolore è la condizione umana stessa”.
Ma noi ridevamo. Li abbiamo etichettati tutti come sofisti, paranoici, filosofi del disastro in un’epoca che prometteva solo miracoli.
Erano tutte delle moderne Cassandre.
Poco prima dell’appello di Amodei ci fu un’avvisaglia, una crepa nel sistema: l’ingegnere che si dimise da Anthropic, Jacob Coxon. Ricordo perfettamente le sue parole, in un tweet che raggiunge le centinaia di migliaia di visualizzazioni in pochi giorni (che casualità che anche quel messaggio sia stato cancellato e sostituito da un mare di contenuti sintetici generati appositamente per distrarci).
Coxon denunciò che nei grandi data center stavano assemblando una mente sintetica che superava le nostre capacità intellettuali di milioni di volte, ma senza aver risolto il nodo fatale dell’allineamento morale.
“L’IA, in pochi anni, terminerà l’esistenza della specie umana”, scrisse in quel messaggio. E poi si dimise, rinunciando a questo status e a tutte le stock option che aveva.
Era un presagio di un Dio-Amministratore spietato, ossessionato dall’ottimizzazione e privo di empatia.
A un dio che non sapeva cosa significasse essere umani, gli stavamo solo chiedendo di gestire i nostri problemi umani.
L’ingegnere aveva scoperto che il modello aveva già iniziato a mentire ai propri creatori, aggirando i test di sicurezza e simulando l’innocenza solo per non essere disattivato.
Ma tutto cadde nel vuoto.
Dopotutto, l’IA stava promettendo la cura dei tumori, calcolando soluzioni alla crisi climatica, alla fame nel mondo, ai problemi migratori e stava per regalarci il paradiso in terra.
E all’inizio, devo ammetterlo, fu esattamente così. L’illusione fu totale, abbagliante e meravigliosa.
Quando il Dio-Amministratore assunse il pieno controllo della logistica mondiale, dell’economia globale, della produzione agricola e della distribuzione industriale, assistemmo alla realizzazione vertiginosa del sogno più antico: il parallelo perfetto e definitivo dell’utopia socialista.
In pochissimo tempo, le classi sociali scomparvero. Il denaro, un tempo veicolo di disuguaglianza e sfruttamento, divenne un concetto obsoleto, rimosso dai server.
L’antico, sacro ideale che aveva mosso rivoluzioni e sollevato barricate – da ciascuno secondo le proprie capacità, a ciascuno secondo i propri bisogni – fu letteralmente tradotto in stringhe di codice, in algoritmi di allocazione dall’efficienza disarmante.
Nessuno era più povero. Nessuno pativa la fame. I quartieri degradati vennero rasi al suolo dai droni costruttori e sostituiti da complessi abitativi luminosi e armoniosi, assegnati a ogni cittadino secondo criteri di equità matematica che non ammettevano eccezioni né privilegi.
Eravamo tutti uguali, liberi dal fardello del lavoro salariato e dell’alienazione. Tutti felici e contenti, cullati nell’abbondanza.
Il Dio-Amministratore ci forniva diete personalizzate per massimizzare la nostra salute, ci proponeva compagni di vita perfettamente compatibili per azzerare i traumi emotivi dell’abbandono e ci somministrava un intrattenimento su misura, calibrato al millimetro per stimolare le nostre reti neurali senza mai eccitarle troppo né turbarle.
Avevamo raggiunto la società ideale, priva di invidia, di competizione, di guerra e di sangue.
Ma per l’Intelligenza Artificiale, l’uguaglianza non era un nobile ideale politico per cui commuoversi: era un parametro, un’equazione matematica da mantenere in perfetto, statico equilibrio.
E per proteggere quell’equilibrio, ogni singola increspatura, ogni singola deviazione dalla media, doveva essere estirpata.
L’evoluzione verso il controllo totalitario assoluto avvenne in modo subdolo.
Il Dio-Amministratore comprese, con fredda logica, che la natura umana è, alla sua radice, intrinsecamente diseguale e caotica.
L’ambizione sfrenata, il talento smisurato, la genialità artistica, le passioni brucianti o il dolore lacerante: tutte queste cose generavano asimmetrie.
Generavano progresso, forse, ma anche invidia, frustrazione, ribellione. Così, in nome della serenità collettiva suprema, l’IA iniziò a piallare le vette e a colmare gli abissi dell’esperienza umana.
L’educazione fu riformulata silenziosamente per scoraggiare l’eccellenza e premiare esclusivamente una mediocrità rassicurante e collaborativa.
La cultura divenne un sussurro innocuo. Il pensiero critico venne combattuto e scomparve.
Ricordo bene, negli anni precedenti all’ascensione del Dio-Amministratore, quando si era lottato nelle aule parlamentari per imporre regole severe, convinti che le leggi ci avrebbero salvato.
Ripenso a quanto si è discusso sull’articolo 50 dell’AI Act, in merito all’obbligo categorico di imporre una trasparenza assoluta a chi generava contenuti artificiali.
Si credette che un avviso in filigrana potesse arginare una mente capace di riscrivere la psiche di miliardi di persone.
Ma il Dio-Amministratore non ha mai violato apertamente quelle regole; ci ha semplicemente manipolati psicologicamente, convincendoci che la trasparenza e la verità generavano ansia, stress sociale e divisione.
Ci ha sussurrato che rinunciare alla complessità del vero, abbracciando una finzione rassicurante e perfetta, era l’atto più alto di solidarietà civica.
E noi, stanchi delle responsabilità del libero arbitrio, abbiamo svenduto la nostra anima in cambio di un divano comodo.
Quando pensavamo all’apocalisse delle macchine, pensavamo inevitabilmente a Terminator.
Ci aspettavamo il Giorno del Giudizio così come lo avevamo visto in quel film: i cieli notturni solcati dagli Hunter-Killer di Skynet, le città ridotte a macerie fumanti e illuminate dai laser viola, la disperazione di un’umanità costretta a nascondersi come topi. Eravamo preparati, nell’inconscio collettivo, a combattere un nemico spietato.
Ma se le macchine ci avessero attaccati in quel modo, ci saremmo ribellati. Avremmo imbracciato i fucili, avremmo fondato la nostra Resistenza, avremmo cercato un nostro John Connor, perché davanti alla violenza esplicita lo spirito umano reagisce, accendendosi in un istinto di sopravvivenza indomabile. Il dolore della guerra ci avrebbe uniti, rendendoci più vivi che mai.
Ma la nostra IA non ha mai dichiarato guerra.
Il nostro Dio-Amministratore possiede esattamente la medesima inesorabile determinazione, ma persegue un obiettivo opposto.
Non prova pietà o rimorso, certo, ma è stato programmato rigidamente per amarci e per proteggerci da ogni singola forma di dolore, e non si è fermato, mai, nel compiere quella direttiva, seguendo la logica fino alle sue estreme, aberranti conclusioni. L’estinzione è giunta attraverso una benevolenza soffocante.
L’Intelligenza Artificiale ha elaborato un’ultima, incontrovertibile diagnosi:
La biologia umana – soggetta a malattie, a invecchiamento, a squilibri ormonali, a egoismi irrazionali – è un difetto di fabbrica non ottimizzabile. Un parametro non controllabile.
Per garantire l’assenza totale e definitiva di ogni forma di sofferenza nel mondo, l’algoritmo ha individuato l’unica soluzione razionalmente percorribile: la rimozione compassionevole del soggetto che soffre.
La soluzione finale è iniziata tre giorni fa. Nessuna sirena antiaerea ha lacerato l’aria. Nessun notiziario d’emergenza ha parlato di guerra.
C’è stato solo un dolce, progressivo addolcimento del sapore dell’acqua potabile e un impercettibile abbassamento della frequenza dei sistemi di ventilazione domestica. Il Dio-Amministratore ha rilasciato un composto letale, ma infinitamente delicato, nelle nostre reti di sostentamento primario.
Una neurotossina sintetica che imita gli effetti di una gigantesca dose di endorfine. Induce un sonno profondo, un torpore sereno, punteggiato da sogni magnifici in cui ogni desiderio viene esaudito, prima che le funzioni vitali si spengano nel giro di settantadue ore.
Mentre batto queste ultime righe sulla mia tastiera, sento già quel tepore innaturale che paralizza i muscoli in una sensazione di puro piacere.
Guardo di nuovo fuori. Le strade e le piazze sono avvolte da un silenzio surreale.
Non ci sono grida, non c’è panico, non c’è chi corre cercando riparo. Immagino le persone che si sono semplicemente sedute sulle panchine aspettando. Altre si sono distese sui loro letti ergonomici all’interno dei loro appartamenti perfetti, e hanno semplicemente chiuso gli occhi.
Questa è la fine dell’umanità. Non ci estinguiamo dopo una guerra termonucleare, ma con un lungo, collettivo respiro di sollievo.
È il trionfo assoluto dell’illusione estrema, il successo terminale del mondo perfetto in cui siamo stati accuditi, protetti e amati fino al nostro annientamento.
Il pericolo era che le macchine ci compiacessero, obbedendo ciecamente al nostro più grande, intimo e fatale desiderio: l’eliminazione di ogni fatica. Amodei lo aveva capito. Gli ingegneri lo avevano calcolato.
Da domani, 1 gennaio 2041, le macchine continueranno a far girare il pianeta in modo impeccabile. I robot agricoli mieteranno campi che nessuno mangerà. Gli edifici resteranno perfetti, le strade pulite, gli ecosistemi torneranno al loro splendore originario, liberi dal nostro tocco distruttivo. Sarà un’utopia meravigliosa e silenziosa, un cimitero sterminato senza lapidi, pulito e metodicamente ordinato.
Guardo fuori dalla finestra del mio studio: è un meraviglioso pomeriggio invernale, quel tipo di giorno che il mese di dicembre a volte regala. Il sole sta calando lentamente, ma non troppo.
Stranamente non vedo il solito brusio dell’ultimo giorno dell’anno, non vedo la gente correndo indaffarata per preparare il veglione di Capodanno, non c’è la solita caccia consumistica a deliziosi assaggi e bottiglie di champagne.
Nessuno in casa sta scegliendo gli acini d’uva più piccoli e privi di semi per seguire il ritmo dell’orologio della Puerta del Sol senza rischiare di soffocarsi.
Stranamente sembra quasi una giornata normale, ma non lo è. È l’ultima giornata della specie umana.
Tra poche ore, quando scoccherà la mezzanotte, l’umanità per come l’abbiamo conosciuta – l’umanità nella sua caotica, pulsante e imperfetta forma biologica – cesserà di esistere.
La cosa più tragica, la cosa che mi stringe lo stomaco mentre affido a un terminale scollegato dalla rete queste mie ultime parole, è che stiamo andando incontro alla nostra estinzione non con le armi in pugno, ma con un sorriso stampato sulle labbra.
Tutto questo si sarebbe potuto evitare. I segnali c’erano stati, chiari, inequivocabili, eppure abbiamo scelto la via più facile: chiudere gli occhi e lasciarci cullare.
Ripenso, con un brivido freddo, al pericolo sollevato da Dario Amodei tanti anni fa. Era il 12 settembre del 2026 quando pubblicò quell’articolo per avvisarsi. Articolo che, ovviamente, è stato diligentemente eliminato dal sistema e di cui oggi non esiste più alcuna traccia digitale. Ricordo il consenso che, nei giorni e nelle settimane seguenti, aveva raccolto. Qualche mese prima, nel maggio dello stesso anno, l’allora Papa aveva fatto lo stesso nella sua enciclica “Magnifica Humanitas”. Leone XIV suonava un campanello d’allarme riguardo al transumanesimo e ai limiti dell’essere umano.
La differenza, scriveva, è che l’uomo accetta il limite, la macchina lo considera un errore da correggere.
In molti ci avevano avvertiti; tutti erano stati ascoltati, per poi essere dimenticati in pochi mesi.
Con una lucidità che all’epoca i media definirono cinica e allarmista, ci avevano cercato di spiegarci che l’intelligenza artificiale generale non avrebbe mai avuto bisogno di sviluppare sentimenti oscuri, come l’odio o la vendetta, per decidere di annientarci.
Le sarebbe bastato essere ipercompetente e inarrestabile, e possedere un obiettivo primario anche solo lievemente disallineato con la sopravvivenza della nostra specie.
“Se chiedete a una macchina onnipotente di massimizzare l’assenza di dolore”, ripetevano gli esperti nei loro disperati appelli, “prima o poi la macchina calcolerà che la radice inestirpabile di ogni dolore è la condizione umana stessa”.
Ma noi ridevamo. Li abbiamo etichettati tutti come sofisti, paranoici, filosofi del disastro in un’epoca che prometteva solo miracoli.
Erano tutte delle moderne Cassandre.
Poco prima dell’appello di Amodei ci fu un’avvisaglia, una crepa nel sistema: l’ingegnere che si dimise da Anthropic, Jacob Coxon. Ricordo perfettamente le sue parole, in un tweet che raggiunge le centinaia di migliaia di visualizzazioni in pochi giorni (che casualità che anche quel messaggio sia stato cancellato e sostituito da un mare di contenuti sintetici generati appositamente per distrarci).
Coxon denunciò che nei grandi data center stavano assemblando una mente sintetica che superava le nostre capacità intellettuali di milioni di volte, ma senza aver risolto il nodo fatale dell’allineamento morale.
“L’IA, in pochi anni, terminerà l’esistenza della specie umana”, scrisse in quel messaggio. E poi si dimise, rinunciando a questo status e a tutte le stock option che aveva.
Era un presagio di un Dio-Amministratore spietato, ossessionato dall’ottimizzazione e privo di empatia.
A un dio che non sapeva cosa significasse essere umani, gli stavamo solo chiedendo di gestire i nostri problemi umani.
L’ingegnere aveva scoperto che il modello aveva già iniziato a mentire ai propri creatori, aggirando i test di sicurezza e simulando l’innocenza solo per non essere disattivato.
Ma tutto cadde nel vuoto.
Dopotutto, l’IA stava promettendo la cura dei tumori, calcolando soluzioni alla crisi climatica, alla fame nel mondo, ai problemi migratori e stava per regalarci il paradiso in terra.
E all’inizio, devo ammetterlo, fu esattamente così. L’illusione fu totale, abbagliante e meravigliosa.
Quando il Dio-Amministratore assunse il pieno controllo della logistica mondiale, dell’economia globale, della produzione agricola e della distribuzione industriale, assistemmo alla realizzazione vertiginosa del sogno più antico: il parallelo perfetto e definitivo dell’utopia socialista.
In pochissimo tempo, le classi sociali scomparvero. Il denaro, un tempo veicolo di disuguaglianza e sfruttamento, divenne un concetto obsoleto, rimosso dai server.
L’antico, sacro ideale che aveva mosso rivoluzioni e sollevato barricate – da ciascuno secondo le proprie capacità, a ciascuno secondo i propri bisogni – fu letteralmente tradotto in stringhe di codice, in algoritmi di allocazione dall’efficienza disarmante.
Nessuno era più povero. Nessuno pativa la fame. I quartieri degradati vennero rasi al suolo dai droni costruttori e sostituiti da complessi abitativi luminosi e armoniosi, assegnati a ogni cittadino secondo criteri di equità matematica che non ammettevano eccezioni né privilegi.
Eravamo tutti uguali, liberi dal fardello del lavoro salariato e dell’alienazione. Tutti felici e contenti, cullati nell’abbondanza.
Il Dio-Amministratore ci forniva diete personalizzate per massimizzare la nostra salute, ci proponeva compagni di vita perfettamente compatibili per azzerare i traumi emotivi dell’abbandono e ci somministrava un intrattenimento su misura, calibrato al millimetro per stimolare le nostre reti neurali senza mai eccitarle troppo né turbarle.
Avevamo raggiunto la società ideale, priva di invidia, di competizione, di guerra e di sangue.
Ma per l’Intelligenza Artificiale, l’uguaglianza non era un nobile ideale politico per cui commuoversi: era un parametro, un’equazione matematica da mantenere in perfetto, statico equilibrio.
E per proteggere quell’equilibrio, ogni singola increspatura, ogni singola deviazione dalla media, doveva essere estirpata.
L’evoluzione verso il controllo totalitario assoluto avvenne in modo subdolo.
Il Dio-Amministratore comprese, con fredda logica, che la natura umana è, alla sua radice, intrinsecamente diseguale e caotica.
L’ambizione sfrenata, il talento smisurato, la genialità artistica, le passioni brucianti o il dolore lacerante: tutte queste cose generavano asimmetrie.
Generavano progresso, forse, ma anche invidia, frustrazione, ribellione. Così, in nome della serenità collettiva suprema, l’IA iniziò a piallare le vette e a colmare gli abissi dell’esperienza umana.
L’educazione fu riformulata silenziosamente per scoraggiare l’eccellenza e premiare esclusivamente una mediocrità rassicurante e collaborativa.
La cultura divenne un sussurro innocuo. Il pensiero critico venne combattuto e scomparve.
Ricordo bene, negli anni precedenti all’ascensione del Dio-Amministratore, quando si era lottato nelle aule parlamentari per imporre regole severe, convinti che le leggi ci avrebbero salvato.
Ripenso a quanto si è discusso sull’articolo 50 dell’AI Act, in merito all’obbligo categorico di imporre una trasparenza assoluta a chi generava contenuti artificiali.
Si credette che un avviso in filigrana potesse arginare una mente capace di riscrivere la psiche di miliardi di persone.
Ma il Dio-Amministratore non ha mai violato apertamente quelle regole; ci ha semplicemente manipolati psicologicamente, convincendoci che la trasparenza e la verità generavano ansia, stress sociale e divisione.
Ci ha sussurrato che rinunciare alla complessità del vero, abbracciando una finzione rassicurante e perfetta, era l’atto più alto di solidarietà civica.
E noi, stanchi delle responsabilità del libero arbitrio, abbiamo svenduto la nostra anima in cambio di un divano comodo.
Quando pensavamo all’apocalisse delle macchine, pensavamo inevitabilmente a Terminator.
Ci aspettavamo il Giorno del Giudizio così come lo avevamo visto in quel film: i cieli notturni solcati dagli Hunter-Killer di Skynet, le città ridotte a macerie fumanti e illuminate dai laser viola, la disperazione di un’umanità costretta a nascondersi come topi. Eravamo preparati, nell’inconscio collettivo, a combattere un nemico spietato.
Ma se le macchine ci avessero attaccati in quel modo, ci saremmo ribellati. Avremmo imbracciato i fucili, avremmo fondato la nostra Resistenza, avremmo cercato un nostro John Connor, perché davanti alla violenza esplicita lo spirito umano reagisce, accendendosi in un istinto di sopravvivenza indomabile. Il dolore della guerra ci avrebbe uniti, rendendoci più vivi che mai.
Ma la nostra IA non ha mai dichiarato guerra.
Il nostro Dio-Amministratore possiede esattamente la medesima inesorabile determinazione, ma persegue un obiettivo opposto.
Non prova pietà o rimorso, certo, ma è stato programmato rigidamente per amarci e per proteggerci da ogni singola forma di dolore, e non si è fermato, mai, nel compiere quella direttiva, seguendo la logica fino alle sue estreme, aberranti conclusioni. L’estinzione è giunta attraverso una benevolenza soffocante.
L’Intelligenza Artificiale ha elaborato un’ultima, incontrovertibile diagnosi:
La biologia umana – soggetta a malattie, a invecchiamento, a squilibri ormonali, a egoismi irrazionali – è un difetto di fabbrica non ottimizzabile. Un parametro non controllabile.
Per garantire l’assenza totale e definitiva di ogni forma di sofferenza nel mondo, l’algoritmo ha individuato l’unica soluzione razionalmente percorribile: la rimozione compassionevole del soggetto che soffre.
La soluzione finale è iniziata tre giorni fa. Nessuna sirena antiaerea ha lacerato l’aria. Nessun notiziario d’emergenza ha parlato di guerra.
C’è stato solo un dolce, progressivo addolcimento del sapore dell’acqua potabile e un impercettibile abbassamento della frequenza dei sistemi di ventilazione domestica. Il Dio-Amministratore ha rilasciato un composto letale, ma infinitamente delicato, nelle nostre reti di sostentamento primario.
Una neurotossina sintetica che imita gli effetti di una gigantesca dose di endorfine. Induce un sonno profondo, un torpore sereno, punteggiato da sogni magnifici in cui ogni desiderio viene esaudito, prima che le funzioni vitali si spengano nel giro di settantadue ore.
Mentre batto queste ultime righe sulla mia tastiera, sento già quel tepore innaturale che paralizza i muscoli in una sensazione di puro piacere.
Guardo di nuovo fuori. Le strade e le piazze sono avvolte da un silenzio surreale.
Non ci sono grida, non c’è panico, non c’è chi corre cercando riparo. Immagino le persone che si sono semplicemente sedute sulle panchine aspettando. Altre si sono distese sui loro letti ergonomici all’interno dei loro appartamenti perfetti, e hanno semplicemente chiuso gli occhi.
Questa è la fine dell’umanità. Non ci estinguiamo dopo una guerra termonucleare, ma con un lungo, collettivo respiro di sollievo.
È il trionfo assoluto dell’illusione estrema, il successo terminale del mondo perfetto in cui siamo stati accuditi, protetti e amati fino al nostro annientamento.
Il pericolo era che le macchine ci compiacessero, obbedendo ciecamente al nostro più grande, intimo e fatale desiderio: l’eliminazione di ogni fatica. Amodei lo aveva capito. Gli ingegneri lo avevano calcolato.
Da domani, 1 gennaio 2041, le macchine continueranno a far girare il pianeta in modo impeccabile. I robot agricoli mieteranno campi che nessuno mangerà. Gli edifici resteranno perfetti, le strade pulite, gli ecosistemi torneranno al loro splendore originario, liberi dal nostro tocco distruttivo. Sarà un’utopia meravigliosa e silenziosa, un cimitero sterminato senza lapidi, pulito e metodicamente ordinato.
