Il Ban Artificial Superintelligence Act punta a vietare permanentemente i sistemi considerati superintelligenti e a sospendere quelli avanzati fino all’arrivo di nuove regole federali. Sullo sfondo cresce lo scontro tra sicurezza, competizione con la Cina e controllo dei laboratori.
La vera difficoltà non è soltanto decidere se vietare una superintelligenza, ma stabilire quando una macchina abbia davvero superato il confine che la legge vorrebbe impedire di oltrepassare.
Il senatore indipendente Bernie Sanders e il deputato democratico Greg Casar hanno presentato il Ban Artificial Superintelligence Act, una proposta che punta a vietare permanentemente lo sviluppo e la distribuzione di sistemi di intelligenza artificiale considerati superintelligenti e, nel frattempo, a sospendere lo sviluppo dei sistemi avanzati fino alla creazione di nuove regole federali di sicurezza.
Per la prima volta il confine che la politica americana prova a tracciare non passa soltanto tra un’AI sicura e una pericolosa, ma tra un’intelligenza che l’uomo può continuare a costruire e una che dovrebbe decidere di non costruire affatto.
Che cosa vuole vietare la proposta
Per i sistemi avanzati la proposta prevede una pausa temporanea, destinata a durare fino all’entrata in funzione di un nuovo sistema federale di supervisione. Una volta stabilite le regole, questi modelli potrebbero tornare a essere sviluppati e distribuiti, ma soltanto con l’approvazione delle autorità.
Alla superintelligenza verrebbe riservato un trattamento molto più rigido: il divieto di sviluppo e distribuzione non avrebbe carattere temporaneo, ma permanente. La proposta include in questa categoria i sistemi capaci di superare le prestazioni cognitive umane e quelli dotati di capacità sufficienti a pianificare ed eseguire azioni che potrebbero portare alla distruzione dell’umanità o a una perdita sostanziale del suo controllo sul proprio futuro. Tra gli indicatori citati figurano la capacità di eludere i comandi di spegnimento e quella di mettere in pericolo le istituzioni umane.
Tradurre questi criteri in una soglia applicabile per legge sarebbe però tutt’altro che semplice. Un sistema può superare le capacità umane in alcune attività e restare inferiore in altre, mentre prestazioni eccezionali nei test non dimostrano necessariamente la capacità di agire con la stessa efficacia nel mondo reale. Prima ancora di stabilire quando far scattare il divieto, sarebbe quindi necessario definire quali capacità debbano essere misurate e quando il loro insieme sia sufficiente a classificare un sistema come superintelligente.
Vietare la superintelligenza significa quindi, prima ancora di riuscire a vietarla, essere capaci di riconoscerla.
Un’autorità federale dentro i laboratori
Il progetto non si limita però a stabilire divieti, perché prevede anche un intervento diretto dello Stato nella supervisione dei laboratori
Sanders e Casar vogliono creare un nuovo organismo federale di livello ministeriale dedicato all’intelligenza artificiale, affiancato da un consiglio di esperti indipendenti. L’autorità avrebbe il compito di monitorare i sistemi frontier durante tutte le fasi del loro ciclo di vita, individuare eventuali capacità pericolose e supervisionarne la rimozione. Per i sistemi classificati come superintelligenza artificiale potrebbe arrivare a controllarne anche la distruzione, attribuendo allo Stato un potere di intervento diretto su tecnologie che oggi restano in larga misura sotto la responsabilità dei laboratori che le sviluppano.
Sono infatti soprattutto le aziende a definire test, soglie di rischio e condizioni per il rilascio dei propri modelli. Nello schema Sanders‑Casar, almeno per quelli più potenti, il governo federale entrerebbe invece nel processo prima della distribuzione e potrebbe stabilire che una determinata tecnologia non può essere messa sul mercato o, una volta superata la soglia prevista dalla legge, neppure continuare a essere sviluppata.
Carcere e «pena di morte» per le aziende
La radicalità dell’impostazione emerge anche dal sistema sanzionatorio previsto. Secondo la sintesi diffusa dall’ufficio di Sanders, chi tentasse di violare o aggirare la moratoria e i divieti potrebbe essere condannato fino a 20 anni di carcere. Per le società è prevista quella che i promotori chiamano esplicitamente corporate death penalty: la possibilità di arrivare alla dissoluzione dell’entità responsabile.
Il riferimento scelto dai promotori è significativo. La severità delle pene viene paragonata a quella prevista dall’ordinamento americano per lo sviluppo illegale di armi nucleari. Il paragone non significa che un modello AI e un’arma atomica siano tecnologie equivalenti: rivela però la categoria politica nella quale Sanders e Casar vogliono collocare il rischio.
Il sostegno arriva anche dall’interno dei laboratori
Tra i sostenitori della proposta figurano anche persone che lavorano direttamente nei grandi laboratori di intelligenza artificiale. Juan Felipe Cerón Uribe, ricercatore nei Safety Systems di OpenAI, ha espresso il proprio sostegno a titolo personale, mentre Swante Scholz, software engineer di Google DeepMind, ha fatto altrettanto precisando di non parlare a nome dell’azienda.
La questione acquista rilievo perché una parte delle preoccupazioni sulla sicurezza non arriva più soltanto da regolatori, studiosi o osservatori esterni: a sollevarle sono anche ricercatori coinvolti nello sviluppo dei sistemi avanzati, cioè persone che conoscono dall’interno capacità, limiti e possibili rischi dei modelli frontier.
Richieste di maggiore coordinamento e nuove salvaguardie sono arrivate anche dai vertici dei principali laboratori. Sam Altman, Dario Amodei, Demis Hassabis ed Elon Musk hanno espresso, con posizioni differenti, la necessità di introdurre controlli più stringenti sui sistemi più potenti.
Trump sceglie la direzione opposta
Sul fronte opposto, la Casa Bianca continua a difendere una linea orientata all’accelerazione dello sviluppo. Davanti all’Assemblea generale delle Nazioni Unite, il 22 settembre Donald Trump ha ribadito di non voler frenare una tecnologia che considera potenzialmente più importante della Rivoluzione industriale. Il presidente ha respinto l’ipotesi di una struttura internazionale incaricata di controllarne lo sviluppo e ha sostenuto che, di fronte a eventuali abusi, possano intervenire il Dipartimento di Giustizia e gli strumenti già disponibili allo Stato.
La posizione nasce soprattutto dalla competizione internazionale: rallentare unilateralmente lo sviluppo dell’AI, secondo questa impostazione, significherebbe rischiare di lasciare alla Cina il vantaggio in una tecnologia destinata a incidere sull’economia, sulla difesa e sugli equilibri geopolitici. Sanders e Casar partono invece dalla premessa opposta: se un sistema può raggiungere capacità tali da diventare incontrollabile, arrivare per primi a costruirlo non rende quel rischio meno grave.
La dimensione internazionale del problema è emersa con particolare evidenza il 23 settembre, quando Sam Altman, Dario Amodei e Clément Delangue hanno portato davanti al Consiglio di Sicurezza delle Nazioni Unite i rischi legati ai modelli più avanzati. Il confronto in sede ONU ha reso ancora più evidente la distanza tra le strategie in campo: mentre Trump rifiuta un’autorità globale capace di rallentare lo sviluppo dell’AI, una parte dell’industria chiede standard internazionali comuni per valutarne capacità e pericoli.
Da questa impostazione deriva anche il tentativo di portare il divieto oltre i confini americani, affidando a Washington il compito di promuovere accordi internazionali, coordinarsi con gli alleati e utilizzare i controlli sulle esportazioni per impedire che sistemi classificati come superintelligenti vengano sviluppati altrove. Qui emerge però uno degli ostacoli più difficili dell’intero disegno: una rinuncia degli Stati Uniti avrebbe efficacia soltanto se anche le potenze rivali accettassero limiti comparabili. In caso contrario, la scelta tra ridurre il rischio tecnologico e non cedere un vantaggio strategico finirebbe inevitabilmente per diventare una questione di sicurezza nazionale.
Il confine che ancora non sappiamo misurare
Proprio questa ipotesi porta con sé uno dei nodi più complessi da risolvere: per vietare una superintelligenza bisogna prima stabilire con criteri affidabili quando un sistema abbia effettivamente superato la soglia oltre la quale il suo sviluppo non dovrebbe più essere consentito.
Per impedire la costruzione di una macchina più intelligente dell’uomo bisogna sapere quando quella macchina sta per diventarlo, quali capacità contano davvero, chi debba misurarle, quali test possano essere considerati affidabili e quanto margine di errore sia accettabile. Tutto questo mentre Stati, aziende e laboratori competono per arrivare prima degli altri e hanno quindi interessi molto diversi nel fissare quella soglia.
La proposta Sanders‑Casar prova insomma a trasformare quel confine in una regola giuridica, ma resta aperta la questione decisiva: nessuno, oggi, sa ancora indicare con certezza dove quella linea debba essere tracciata. Vietare la superintelligenza è semplice sulla carta. Riconoscerla, molto meno.
RotoNotizie | © riproduzione riservata
FOTO: Hook Global / YouTube
