La Corte d’appello federale dà ragione al Pentagono nella battaglia con Anthropic. Al centro del caso c’è il potere di un laboratorio privato di imporre limiti all’uso militare dei propri modelli.
Le protezioni costruite per impedire determinati impieghi dell’AI finiscono al centro di una sentenza perché lo Stato ritiene che proprio quei limiti possano compromettere una missione militare.
La Corte dà ragione al Pentagono
La Corte d’appello del Distretto di Columbia ha respinto con una decisione di due giudici contro uno il ricorso presentato da Anthropic contro la classificazione come supply chain risk. La maggioranza, nell’opinione firmata dal giudice Gregory Katsas e condivisa da Neomi Rao, ha ritenuto che il Pentagono avesse elementi sufficienti per concludere che l’integrazione di Claude nei propri sistemi potesse creare un rischio per la sicurezza nazionale. La giudice Karen LeCraft Henderson ha espresso voto contrario.
Il contenzioso nasce dal rifiuto di Anthropic di eliminare alcune restrizioni che impediscono l’impiego di Claude in due ambiti considerati dall’azienda incompatibili con i propri principi: la sorveglianza interna di massa degli americani e l’utilizzo di sistemi d’arma completamente autonomi. La società sostiene da mesi di essere disponibile a consentire pressoché qualsiasi altro impiego legale dell’intelligenza artificiale per la sicurezza nazionale, ma ha rifiutato di trasformare quella disponibilità in un’autorizzazione senza eccezioni.
Per il Pentagono, invece, un fornitore strategico non può conservare la possibilità tecnica o contrattuale di impedire al governo di utilizzare un sistema in attività che lo Stato considera legittime e necessarie. La Corte ha accolto questo ragionamento sottolineando che le restrizioni inserite da Anthropic avevano già impedito a Claude, in più di un’occasione, di eseguire compiti richiesti da utenti governativi. La sentenza cita inoltre una controversia sorta durante un’operazione militare all’estero, che avrebbe lasciato il Dipartimento nell’incertezza sulla possibilità di utilizzare il modello nel modo previsto.
Quando la protezione diventa il problema
I grandi laboratori investono risorse enormi per costruire modelli che rifiutino determinati utilizzi, inserendo restrizioni direttamente nell’addestramento, sistemi esterni di monitoraggio e limiti contrattuali, ma proprio questa architettura può trasformarsi in un problema quando il modello entra in infrastrutture militari. Anthropic considera queste protezioni parte centrale della propria missione e ha sviluppato Claude affinché valuti le richieste anche attraverso principi legati alla sicurezza, alla privacy e alla prevenzione dei danni.
Nel momento in cui lo stesso modello entra in un’infrastruttura militare, però, quella caratteristica può essere interpretata in senso opposto. Un sistema che decide di non eseguire un comando perché lo considera incompatibile con le proprie protezioni può essere rassicurante in un ambiente civile, mentre per una struttura di difesa può trasformarsi in una fonte di incertezza operativa.
La maggioranza non considera infondate le preoccupazioni di Anthropic e riconosce che l’azienda possa essere mossa da ragioni legittime legate alla tutela della privacy e alla sicurezza dell’AI. Distingue però le motivazioni della società dagli effetti concreti delle restrizioni: ai fini della normativa sulla catena di approvvigionamento, conta ciò che il fornitore può impedire al sistema di fare, non la ragione per cui abbia scelto di impedirlo.
Questa distinzione sposta il confronto dalla domanda morale su quali utilizzi dell’AI siano accettabili a quella molto più concreta su chi abbia l’autorità di decidere quando la tecnologia viene impiegata dallo Stato.
Armi autonome e sorveglianza, le due linee rosse di Anthropic
Dario Amodei aveva chiarito la posizione dell’azienda già a febbraio, sostenendo che Anthropic considera strategico l’impiego dell’intelligenza artificiale per difendere gli Stati Uniti e le democrazie. Claude era stato inoltre uno dei primi modelli di frontiera introdotti nelle reti classificate del governo americano ed era già utilizzato per analisi di intelligence, simulazioni, pianificazione operativa e attività informatiche.
Il conflitto non nasce quindi da un rifiuto generale di collaborare con le forze armate, ma dalle due eccezioni che Anthropic non ha voluto cancellare. Sulle armi completamente autonome l’azienda sostiene che i modelli attuali non abbiano ancora l’affidabilità necessaria per assumere decisioni letali senza un controllo umano; sulla sorveglianza domestica di massa ritiene invece che l’impiego dell’AI possa entrare direttamente in conflitto con diritti fondamentali.
Il Pentagono ha risposto sostenendo, in sostanza, che non può essere un’impresa privata a stabilire quali attività militari legalmente autorizzate possano essere svolte con una tecnologia acquistata dallo Stato. La frattura riguarda quindi due concezioni differenti della responsabilità: per Anthropic il produttore conserva un dovere verso gli usi del proprio modello anche dopo averlo fornito al governo; per l’amministrazione, una volta stabilito che l’impiego è legale, la decisione appartiene alle istituzioni democraticamente legittimate a condurre le operazioni militari.
Due tribunali, due aspetti diversi dello stesso scontro
La decisione del 25 settembre non cancella un’altra sentenza favorevole ad Anthropic arrivata in California alla fine di agosto. In quel procedimento la giudice federale Rita Lin aveva stabilito che alcune misure adottate contro l’azienda costituivano una ritorsione illegittima per le posizioni espresse sul tema della sicurezza dell’AI, ravvisando violazioni del Primo e del Quinto emendamento e contestando il modo in cui il Pentagono aveva utilizzato i propri poteri.
La Corte d’appello di Washington ha affrontato un profilo giuridico diverso rispetto al procedimento californiano, esaminando nello specifico l’esclusione di Anthropic dalla catena di approvvigionamento prevista dalla normativa federale. In questo contesto ha ritenuto che il Pentagono disponesse di ragioni sufficienti per intervenire e ha respinto l’accusa secondo cui la decisione fosse motivata dalle opinioni pubbliche dell’azienda, sostenendo invece che l’esclusione derivasse dal rifiuto di Anthropic di accettare una condizione contrattuale considerata essenziale dal governo.
Anthropic ha dichiarato di non condividere la decisione e sta valutando ulteriori iniziative giudiziarie, richiamando proprio il precedente favorevole ottenuto nell’altro procedimento. La pronuncia attuale consente intanto al Pentagono di proseguire la rimozione di Claude dai propri sistemi e di impedire ai contractor di utilizzarlo per attività svolte nell’ambito dei contratti della Difesa, senza estendere automaticamente il divieto a tutta l’amministrazione federale.
La sicurezza dell’AI entra nella catena di comando
Il caso apre una questione che nessuna delle due parti può risolvere semplicemente rivendicando la propria competenza. Le aziende conoscono i limiti tecnici dei modelli meglio dei governi che li acquistano e possono individuare rischi che una struttura militare potrebbe sottovalutare. Allo stesso tempo, affidare a una società privata il potere di decidere in quali circostanze una forza armata possa utilizzare uno strumento regolarmente acquistato significa attribuirle una capacità di condizionamento su decisioni che appartengono allo Stato.
La crescita delle capacità dei modelli rende il conflitto ancora più difficile da delimitare. Anthropic ha recentemente documentato sistemi capaci, in alcuni compiti militari e di intelligence, di svolgere attività che fino a poco tempo fa richiedevano specialisti altamente qualificati; la stessa azienda ha rilevato tentativi di utilizzare Claude per sorveglianza, sviluppo di software legato ad armamenti, ricognizione e analisi di possibili obiettivi. Proprio queste capacità vengono indicate da Anthropic come una ragione per mantenere salvaguardie tecniche robuste.
Il Pentagono osserva la stessa evoluzione da una prospettiva diversa: se l’intelligenza artificiale diventa parte dell’infrastruttura militare, un modello che possa rifiutare un’operazione nel momento in cui serve rappresenta una dipendenza che la catena di comando potrebbe non essere disposta ad accettare.
Questa tensione non riguarda soltanto Claude. OpenAI, Google e gli altri produttori di modelli avanzati stanno entrando sempre più profondamente nei sistemi della difesa e delle amministrazioni pubbliche, rendendo inevitabile stabilire quali protezioni possano restare sotto il controllo del produttore e quali debbano essere subordinate alle decisioni dello Stato.
Il precedente che può cambiare i rapporti tra governi e laboratori
Se protezioni particolarmente rigide possono trasformare un fornitore in un rischio per la sicurezza nazionale, la sentenza potrebbe spingere le aziende interessate ai giganteschi contratti della difesa a costruire versioni dei propri modelli nelle quali lo Stato disponga di un margine di intervento molto più ampio. È proprio questo possibile effetto a rendere la decisione delicata, perché la pressione commerciale potrebbe finire per incidere sulla quantità e sulla rigidità delle salvaguardie incorporate nei sistemi destinati all’uso militare.
Una simile evoluzione risolverebbe il problema operativo del Pentagono, ma ne aprirebbe immediatamente un altro. Le salvaguardie che oggi vengono presentate come indispensabili per impedire abusi potrebbero diventare negoziabili proprio negli ambienti nei quali l’intelligenza artificiale dispone delle conseguenze più concrete, dalla sorveglianza alla selezione degli obiettivi fino alla gestione di sistemi d’arma.
La sentenza della Corte d’appello non stabilisce che i limiti scelti da Anthropic siano sbagliati né autorizza genericamente il governo a eliminare qualsiasi protezione dai modelli. Stabilisce però un principio con conseguenze profonde: quando quelle protezioni interferiscono con le funzioni che il Pentagono ritiene necessarie alla sicurezza nazionale, possono diventare esse stesse una ragione per escludere il produttore dalla catena militare.
La domanda destinata a rimanere aperta va quindi oltre la controversia giudiziaria tra Washington e Anthropic. Se l’intelligenza artificiale diventerà una componente ordinaria delle operazioni militari, bisognerà decidere se l’ultima barriera davanti a un utilizzo considerato pericoloso debba appartenere a chi costruisce il modello oppure a chi esercita il potere dello Stato.
In gioco non c’è soltanto chi possa vendere Claude al Pentagono, ma chi avrà il diritto di dire di no quando una macchina abbastanza potente da incidere su una guerra riceverà l’ordine di agire.
RotoNotizie | © riproduzione riservata
FOTO: CBS Sunday Morning / YouTube
