L'IA ha quasi scatenato la Terza Guerra Mondiale: il Pentagono stava per assaltare una nave cinese
Un rapporto di intelligence fasullo, scritto da un analista con l'aiuto di un chatbot, ha portato l'esercito americano a un passo dall'assaltare una nave cinese in Medio Oriente. Se l'operazione fosse andata in porto, il mondo intero avrebbe potuto precipitare in un conflitto armato tra Stati Uniti e Cina. E pensare che tutto è nato da un errore banale dell'intelligenza artificiale.
Secondo quanto riportato da CNN, il rapporto è circolato questa primavera tra le forze armate statunitensi, nel bel mezzo della guerra con l'Iran. L'allarme è scattato immediato: una nave cinese stava trasportando componenti per un programma di armi nucleari. I piani per intercettare l'imbarcazione sono stati preparati in fretta e furia. Due fonti a conoscenza dell'episodio hanno rivelato che membri armati delle forze speciali erano pronti a salire a bordo, con aerei militari già in volo.
Ma poco prima dell'operazione, i funzionari hanno deciso di approfondire il rapporto, redatto da un analista del comando delle operazioni speciali. E lì è venuto fuori il marcio: il documento era stato generato con l'aiuto di un chatbot, che aveva identificato in modo errato il materiale trasportato dalla nave. Un rapporto 'interamente falso', come lo ha definito una fonte, che però ha 'quasi scatenato una guerra'.
L'IA nelle forze armate: un rischio enorme
L'episodio getta una luce sinistra sulla corsa all'integrazione dell'IA in ogni aspetto del lavoro militare. Dall'analisi dell'intelligence alla selezione degli obiettivi, fino alla gestione del bilancio e della logistica, i funzionari spingono per usare l'IA ovunque. Ma il rischio di errori catastrofici è dietro l'angolo, soprattutto quando ci si affida a dati scadenti o corrotti.
Nel caso specifico, l'analista ha interrogato un chatbot su alcuni rapporti di intelligence relativi al manifesto di carico della nave. Il bot ha fuso insieme intelligence da fonti aperte e segrete, arrivando a una conclusione fatidica. Poi, l'analista ha usato di nuovo l'IA per confezionare i risultati in un rapporto standard, di quelli di cui i militari si fidano ciecamente, e lo ha diffuso.
Un ex alto funzionario statunitense ha commentato con ironia: 'Gli strumenti interni sono perlopiù soltanto copie dei prodotti commerciali con un po' di rossetto'. E la mancanza di standard unici di verifica rende il tutto ancora più pericoloso.
La strategia di Hegseth: accelerare sull'IA
Nonostante i rischi, il segretario alla Difesa Pete Hegseth ha pubblicato a gennaio la 'Artificial Intelligence Acceleration Strategy', con l'obiettivo di accelerare l'uso dell'IA nelle forze armate. 'Daremo libero corso alla sperimentazione, elimineremo gli ostacoli burocratici, concentreremo i nostri investimenti', ha dichiarato Hegseth. Ma la strategia è decentralizzata, con diversi settori del governo che usano strumenti diversi e standard di sicurezza differenti.
Il risultato? Una costellazione di sistemi di IA con affidabilità variabile, e nessuna linea guida chiara su come la presenza umana possa prevenire vittime civili o episodi di fuoco amico. Come ha detto una fonte: 'L'IA ti permette di arrivare più velocemente a una cattiva idea'.
Un campanello d'allarme per l'Italia e per il mondo
Questo episodio è un monito per tutti, Italia compresa. Mentre i burocrati di Bruxelles sognano di regolamentare l'IA con carte e timbri, gli Stati Uniti rischiano di scatenare una guerra per un'allucinazione di un chatbot. E noi, nel frattempo, restiamo a guardare. La verità è che l'IA può essere un'arma a doppio taglio: se non la controlliamo, potrebbe controllare noi. E il prezzo da pagare, in termini di vite umane, sarebbe inaccettabile.
Il Pentagono e lo US Special Operations Command Pacific non hanno risposto alle richieste di commento. Ma una cosa è certa: la prossima volta che un analista interrogherà un chatbot, potrebbe non esserci un funzionario attento a fermare l'operazione in tempo. E allora, la Terza Guerra Mondiale potrebbe non essere più solo uno scenario da film.