Non serve che l’intelligenza artificiale diventi cosciente, malvagia o decida autonomamente di sterminare l’umanità. Per contribuire a una guerra nucleare potrebbe bastare molto meno: fornire informazioni corrette nel momento sbagliato, presentarle nel modo sbagliato oppure rafforzare la convinzione di un uomo spaventato che sia necessario agire subito.

È questa la tesi, assai meno fantascientifica e proprio per questo più inquietante, avanzata da Paul Slovic e Herbert Lin sul Bulletin of the Atomic Scientists. L’IA non deve premere il bottone atomico. Può essere sufficiente che renda più rapido, più convincente e apparentemente più razionale il percorso che porta un essere umano a premerlo.

Il problema comincia dalla nostra testa.

In un esperimento condotto su quasi tremila cittadini americani veniva immaginata una guerra contro l’Iran. Ai partecipanti era prospettata la possibilità di usare un’arma nucleare per concludere rapidamente il conflitto ed evitare altre perdite tra i soldati statunitensi. In uno scenario sarebbero morti centomila civili iraniani. Nell’altro due milioni.

Il 31,6 per cento approvava l’attacco capace di provocare centomila morti; il 27,6 per cento quello che ne avrebbe provocati due milioni. Una differenza enorme nel numero delle vittime produceva dunque uno scarto minimo nel consenso. Quando però le due alternative venivano mostrate contemporaneamente, il sostegno per l’attacco da due milioni di vittime crollava al 5,1 per cento.

Gli psicologi lo chiamano psychic numbing: anestesia psichica. Oltre una certa dimensione la mente non riesce più a rappresentarsi veramente la sofferenza. Centomila persone e due milioni di persone diventano due numeri. E un numero non piange, non ha figli, non sente dolore.

È esattamente dentro questa fragilità che può entrare l’intelligenza artificiale.

Immaginiamo un sistema militare che rilevi correttamente lo spostamento di alcuni lanciamissili nemici. L’informazione arriva al comando. Nessuno sa con certezza perché quei mezzi si stiano muovendo, ma qualcuno teme un attacco imminente e innalza il livello di allerta. Dall’altra parte osservano quei preparativi e fanno la stessa cosa.

Il sistema di intelligenza artificiale rileva allora i nuovi movimenti dell’avversario. Per chi ha già temuto un attacco, quelle immagini diventano la conferma che aveva ragione. Il primo esercito si prepara perché teme il secondo. Il secondo si prepara perché vede prepararsi il primo. Ogni precauzione dell’uno diventa una minaccia per l’altro.

Non è necessario che l’IA abbia sbagliato una sola informazione. Basta che uomini e macchine costruiscano insieme una storia falsa partendo da fatti veri. È il vecchio dilemma della sicurezza internazionale, soltanto enormemente accelerato.

Ed è proprio la velocità una delle questioni decisive. Radar, satelliti, sensori, droni, intercettazioni, immagini e sistemi automatici possono riversare sui comandi militari quantità di informazioni impossibili da elaborare serenamente. L’intelligenza artificiale promette di ordinarle, selezionarle e interpretarle.

Ed è qui che compare il paradosso: più il sistema diventa efficiente, meno tempo resta all’uomo per dubitare.

Gli Stati possono rassicurare l’opinione pubblica ripetendo che la decisione finale sull’uso dell’arma nucleare resterà umana. Stati Uniti e Cina hanno già affermato il principio del controllo umano e cresce il consenso internazionale sull’idea che una macchina non debba mai autorizzare autonomamente un lancio nucleare. È necessario. Ma non basta.

Quando il presidente, il generale o il comando militare arrivano al momento della decisione finale, potrebbero avere davanti una realtà che è stata già filtrata, classificata e interpretata dalle macchine. L’uomo resta formalmente nel circuito. Ma rischia di essere l’ultimo anello.

Nel frattempo l’integrazione dell’IA nei sistemi militari procede. Il Sipri ha documentato segnali crescenti del suo ingresso nei sistemi nucleari o collegati al nucleare di Stati Uniti e Cina. L’intelligenza artificiale può essere utilizzata per l’allerta precoce, la sorveglianza, l’analisi delle minacce, la selezione delle informazioni e le comunicazioni di comando.

La corsa agli armamenti nucleari, intanto, è tornata a crescere mentre si indeboliscono le barriere costruite durante e dopo la Guerra fredda. Il New Start, ultimo grande trattato che limitava gli arsenali strategici di Stati Uniti e Russia, è scaduto nel febbraio 2026.

È difficile immaginare un momento peggiore per aumentare contemporaneamente il numero delle variabili, la velocità delle decisioni e la dipendenza dagli algoritmi.

La storia nucleare è già piena di falsi allarmi fermati da esseri umani. Nel 1983 l’ufficiale sovietico Stanislav Petrov ricevette dai sistemi di allarme l’indicazione del lancio di missili americani contro l’Unione Sovietica. Non si fidò completamente della macchina, valutò che qualcosa non quadrava e non trattò l’allarme come conferma di un attacco in corso. Era un errore.

Un uomo aveva dubitato del computer. Oggi stiamo costruendo computer molto più sofisticati precisamente perché gli uomini possano dubitare di meno.

È qui che la questione dell’intelligenza artificiale incontra quella delle armi nucleari. Non nel giorno immaginario in cui una macchina acquisterà una coscienza e deciderà di distruggerci. Ma nel giorno assai più possibile in cui un sistema estremamente efficiente dirà a un uomo impaurito che deve decidere in pochi minuti. E l’uomo gli crederà.

Per settant’anni abbiamo raccontato la deterrenza nucleare come un equilibrio affidato alla razionalità umana. Oggi introduciamo nelle stanze dove si decide la sopravvivenza di milioni di persone macchine costruite precisamente per suggerire risposte più velocemente di quanto un uomo riesca a pensarle. Qualche volta il progresso consiste nel riuscire a fare le cose più rapidamente.
Di fronte a una bomba atomica potrebbe consistere esattamente nel contrario.