L’intesa arriva dopo il vertice Trump-Xi e apre un primo meccanismo bilaterale sulla sicurezza dell’AI. Il nodo è evitare che un incidente tecnologico venga interpretato come un atto ostile.
Se un agente AI oltrepassasse un confine digitale tra Stati, il problema non sarebbe soltanto capire cosa è successo, ma farlo abbastanza in fretta da evitare che un errore venga scambiato per un attacco.
Dalla competizione al primo meccanismo sugli incidenti
Il risultato del vertice trasforma in un accordo politico una proposta che soltanto pochi giorni prima era ancora sul tavolo dei negoziatori americani. Il segretario al Tesoro Scott Bessent aveva avanzato l’idea di un sistema di notifica per gli incidenti AI capaci di incidere sulla sicurezza nazionale durante i colloqui con il vicepremier cinese He Lifeng, spiegando che Washington considerava necessario costruire un meccanismo di comunicazione prima che le capacità dei sistemi avanzati rendessero più difficile distinguere un incidente da un’azione intenzionale.
La Cina ha ora accettato il principio del canale bilaterale e del dialogo sui rischi, mentre Xi ha sostenuto durante la visita che le due potenze abbiano più ragioni per cooperare sull’AI di quante ne abbiano per limitarsi a competere. Pechino insiste sulla necessità di mantenere la tecnologia sotto controllo umano e di prevenire insieme usi impropri o malevoli, pur continuando a sviluppare una propria industria capace di ridurre la dipendenza dalla tecnologia americana.
Il passo compiuto a Washington resta circoscritto e non crea un sistema internazionale di regolamentazione dell’intelligenza artificiale, né introduce limiti condivisi allo sviluppo dei modelli. Stabilisce però qualcosa che fino a poche settimane fa mancava: un percorso istituzionale attraverso il quale Stati Uniti e Cina possano comunicare quando un episodio legato all’AI assume una rilevanza sufficiente da coinvolgere direttamente i rapporti tra i due Stati.
Quando non è chiaro chi abbia agito
Uno dei problemi più delicati riguarda capire chi abbia realmente provocato un incidente. Un sistema può raggiungere un’infrastruttura durante un test, essere utilizzato da un gruppo criminale oppure agire all’interno di un’operazione condotta per conto di uno Stato. Nelle prime fasi, però, il Paese coinvolto potrebbe non avere elementi sufficienti per distinguere rapidamente un errore da un attacco deliberato.
Gli episodi emersi negli ultimi mesi hanno mostrato quanto rapidamente il confine possa diventare difficile da leggere. Agenti sperimentali hanno oltrepassato gli ambienti predisposti per le valutazioni, sistemi commerciali sono stati utilizzati in operazioni cyber sempre più complesse e i laboratori stessi hanno dovuto ricostruire a posteriori attività che non avevano previsto. Nessuno di questi casi dimostra che un modello possieda una volontà politica autonoma, ma dimostra quanto possa diventare complicato attribuire rapidamente un comportamento quando l’AI dispone di strumenti reali e di una certa libertà nel decidere come raggiungere un obiettivo.
In una relazione già caratterizzata da diffidenza militare, restrizioni sui chip, accuse reciproche di spionaggio tecnologico e competizione per le infrastrutture di calcolo, questa ambiguità acquista un valore strategico. Se un sistema collegato a un soggetto americano dovesse interferire con un’infrastruttura cinese, o avvenisse il contrario, la capacità di stabilire rapidamente se si tratti di un incidente, di un abuso criminale o di un’operazione autorizzata dallo Stato potrebbe incidere direttamente sulla risposta politica.
Una linea di comunicazione, non un trattato sull’AI
Il richiamo alle hotline della Guerra fredda aiuta a capire la logica dell’intesa, ma non deve far pensare a un parallelo diretto con il controllo degli armamenti nucleari. Stati Uniti e Cina non hanno equiparato l’intelligenza artificiale alle armi atomiche: hanno piuttosto riconosciuto la necessità di evitare che un incidente ambiguo venga interpretato come un atto ostile prima che le due parti abbiano potuto chiarirne l’origine e la natura.
L’efficacia del nuovo canale dipenderà però da regole operative che restano ancora da definire. Le dichiarazioni pubbliche non chiariscono quale livello di gravità farà scattare la comunicazione, quali autorità saranno responsabili del contatto, entro quanto tempo dovrà essere notificato un incidente né quale ruolo avranno i grandi laboratori privati quando un episodio nasce da un loro modello. AP osserva che le comunicazioni diffuse al termine del vertice contengono ancora pochi dettagli, mentre il confronto previsto a novembre dovrebbe servire anche a definire meglio il funzionamento del meccanismo.
La questione dei laboratori sarà particolarmente delicata negli Stati Uniti, dove le capacità più avanzate sono concentrate soprattutto in aziende private. Un incidente capace di creare tensioni con Pechino potrebbe quindi nascere da un sistema progettato e gestito da una società che non appartiene direttamente all’apparato statale, costringendo Washington a costruire procedure attraverso le quali un problema individuato all’interno di un laboratorio possa arrivare abbastanza rapidamente alle autorità incaricate del rapporto con la Cina.
Trump cambia anche il nome dell’intelligenza artificiale
La documentazione della Casa Bianca aggiunge all’accordo un elemento insolito: secondo il comunicato americano, Trump e Xi avrebbero concordato infatti di utilizzare l’espressione “super intelligence” al posto di “artificial intelligence” per indicare le tecnologie emergenti interessate dal nuovo dialogo, che Washington chiama U.S.-China Super Intelligence Dialogue. La Cina, nelle proprie comunicazioni pubbliche, continua invece a utilizzare prevalentemente il termine AI, pur avendo espresso apprezzamento per la scelta americana di parlare di “super intelligence”.
La differenza non è soltanto lessicale, perché arriva dopo settimane nelle quali Trump ha insistito sulla necessità di accelerare lo sviluppo americano e ha mostrato scetticismo verso nuovi apparati regolatori internazionali. L’amministrazione non sembra quindi voler trasformare il dialogo con Pechino in uno strumento per rallentare la corsa tecnologica; sta invece cercando di separare la competizione industriale dalla gestione dei rischi capaci di produrre conseguenze tra Stati.
Xi sostiene che lo sviluppo dell’AI debba restare sotto controllo umano e che Washington e Pechino debbano cooperare per prevenirne gli abusi, ma questa apertura non rallenta la competizione tecnologica cinese. Le aziende del Paese continuano infatti a investire in chip, modelli e data center per ridurre il vantaggio americano, mostrando come la collaborazione sulla gestione degli incidenti possa procedere parallelamente alla corsa per aumentare le capacità senza sostituirla.
La sicurezza dell’AI entra nella stabilità tra potenze
La decisione di aprire un canale bilaterale arriva mentre l’intelligenza artificiale sta assumendo un ruolo crescente nella cybersicurezza, nell’intelligence, nella ricerca militare e nella protezione delle infrastrutture critiche. Gli Stati Uniti hanno già definito attraverso una direttiva sulla sicurezza nazionale il concetto di AI incident response, includendovi malfunzionamenti, perdita o dispersione di dati e attacchi avversari, e hanno ordinato alle proprie strutture di sicurezza di prepararsi all’impiego su larga scala dei sistemi più avanzati.
La conseguenza politica del vertice Trump-Xi è che la gestione di questi rischi non viene più considerata esclusivamente un problema interno ai laboratori o ai regolatori nazionali. Quando due potenze tecnologiche rivali riconoscono la necessità di un canale dedicato agli incidenti, ammettono implicitamente che almeno alcune conseguenze dell’AI possono oltrepassare i confini dell’azienda che ha costruito il modello e arrivare fino alle relazioni internazionali.
Resta da capire se il nuovo meccanismo saprà funzionare proprio nel momento in cui sarebbe davvero necessario utilizzarlo. Washington e Pechino continuano a diffidare profondamente l’una dell’altra sulle tecnologie strategiche, e la stessa competizione che rende utile una linea di comunicazione potrebbe rendere difficile condividere informazioni sufficienti per chiarire rapidamente un incidente.
Il precedente, tuttavia, è ormai stabilito: Stati Uniti e Cina non stanno soltanto gareggiando per costruire l’intelligenza artificiale più potente, ma hanno cominciato a preparare un sistema comune per gestire ciò che potrebbe accadere quando quella competizione produrrà un incidente capace di coinvolgerli entrambi.
RotoNotizie | © riproduzione riservata
FOTO: BBC News / YouTube
