L’intelligenza artificiale può produrre danni enormi e merita regole, controlli e ricerca sulla sicurezza. Da questa constatazione a immaginare una tecnologia capace di eliminare l’umanità nell’arco di dieci anni esiste però una distanza che il dibattito pubblico tende sempre più spesso a comprimere, trasformando scenari teorici estremi in previsioni che finiscono sui titoli dei giornali.
Mentre l’attenzione si concentra sull’ipotesi di una superintelligenza fuori controllo, molti dei rischi più concreti dell’AI continuano a dipendere da decisioni profondamente umane: chi la sviluppa, chi può utilizzarla, quali strumenti le vengono affidati e quali limiti vengono costruiti intorno alle sue capacità.
Evan Hubinger, ricercatore di Anthropic, ha quantificato in oltre il 10% il rischio nel prossimo decennio, una valutazione personale riferita a scenari futuri nei quali sistemi molto più avanzati di quelli attuali avrebbero acquisito capacità che oggi non possiedono. Una valutazione molto forte, legittima all’interno del confronto scientifico e industriale sulla sicurezza, ma che non equivale a una probabilità misurata attraverso un insieme di eventi osservabili e ripetibili. È una stima relativa a uno scenario futuro nel quale sistemi molto più avanzati di quelli attuali avrebbero acquisito capacità che oggi non possiedono.
La distinzione è necessaria, soprattutto quando dalla ricerca specialistica quelle percentuali entrano nel circuito dell’informazione generale. Un rischio ipotizzato può meritare attenzione anche quando la sua probabilità non è determinabile con precisione; presentarlo implicitamente come un esito verso il quale la tecnologia starebbe già procedendo significa però raccontare qualcosa di diverso.
L’intelligenza artificiale ha ancora bisogno del mondo fisico
Qualunque modello, dal più semplice al più avanzato, esiste perché esiste un’infrastruttura che gli permette di funzionare. Servono processori, data center, sistemi di raffreddamento, elettricità, reti di comunicazione, manutenzione e persone o organizzazioni che assicurino tutto questo. L’intelligenza artificiale non genera autonomamente l’energia necessaria alla propria esistenza e non vive indipendentemente dall’hardware sul quale viene eseguita.
Ridurre tutto alla presenza di un interruttore sarebbe troppo semplice. Un sistema distribuito su migliaia di macchine, replicato in luoghi differenti o integrato dentro infrastrutture esterne potrebbe essere molto più difficile da arrestare rispetto a un programma installato su un singolo computer. Rimane però una differenza sostanziale rispetto all’immagine di un’intelligenza divenuta improvvisamente indipendente dall’uomo: anche un sistema estremamente avanzato continuerebbe ad avere bisogno di accesso a risorse fisiche e digitali che qualcuno deve avergli consentito di utilizzare.
Molti scenari catastrofici presuppongono quindi una lunga catena di passaggi precedenti. Un’AI dovrebbe ottenere capacità molto superiori a quelle attuali, ricevere accessi sufficientemente ampi, poter intervenire su sistemi esterni, aggirare le protezioni costruite per limitarla e riuscire a preservare l’accesso alle infrastrutture necessarie al proprio funzionamento. Studiare una simile possibilità è ragionevole. Trattarla come conseguenza quasi naturale dell’aumento dell’intelligenza dei modelli lo è molto meno.
Una macchina non deve diventare “cattiva” per essere pericolosa
Anche l’idea dell’intelligenza artificiale che sviluppa una propria volontà omicida porta facilmente il discorso su un terreno sbagliato. Categorie come cattiveria, odio, vendetta o desiderio di potere appartengono alla psicologia umana e trasferirle automaticamente su un sistema artificiale rischia di produrre una rappresentazione molto efficace nella narrativa e molto meno utile quando si devono analizzare i rischi reali.
Un sistema non ha bisogno di essere cattivo per causare conseguenze gravi. Può ricevere istruzioni sbagliate, operare sulla base di informazioni incomplete, essere progettato senza protezioni sufficienti oppure essere deliberatamente utilizzato da persone che perseguono finalità criminali, militari o fraudolente. Può inoltre essere collegato a strumenti sui quali non avrebbe dovuto avere autonomia decisionale.
In ciascuno di questi casi il problema esiste, ma assume una natura molto diversa dalla ribellione della macchina contro il suo creatore. Entrano in gioco progettazione, sicurezza informatica, responsabilità, autorizzazioni e soprattutto la scelta umana di quanto potere delegare a un sistema automatico.
Un’AI alla quale non viene concesso l’accesso a un’infrastruttura critica non può semplicemente decidere di amministrarla. Un modello privo delle credenziali necessarie non ottiene per magia le autorizzazioni di un sistema informatico. Se quelle barriere vengono rimosse, aggirate o progettate male, la domanda da porre riguarda anche chi abbia costruito quell’architettura e perché abbia consentito a un software di raggiungere quel livello di autonomia.
Il rischio più vicino continua ad avere un volto umano
La concentrazione quasi esclusiva sugli scenari di estinzione rischia paradossalmente di indebolire il dibattito sulla sicurezza. Esistono problemi che non richiedono alcuna superintelligenza futura: frodi più sofisticate, manipolazione dell’informazione, attacchi informatici assistiti dall’AI, sorveglianza invasiva, discriminazioni prodotte da sistemi automatici, concentrazione del potere tecnologico e utilizzo militare.
Sono rischi meno cinematografici, ma hanno un vantaggio rispetto alla previsione dell’apocalisse: possono essere affrontati adesso.
Le risposte passano attraverso la protezione delle infrastrutture, la tracciabilità degli accessi, la responsabilità di chi mette sul mercato i sistemi, controlli proporzionati alle capacità, valutazioni indipendenti e limiti precisi alle azioni che un modello può compiere autonomamente. Una politica della sicurezza costruita su questi elementi non ostacola necessariamente l’innovazione; può al contrario permetterle di avanzare senza pretendere che la società scelga tra sviluppo incontrollato e rinuncia alla tecnologia.
Rinunciare all’AI avrebbe anch’esso un costo
Nel dibattito sui pericoli viene spesso lasciata sullo sfondo l’altra parte dell’equazione. L’intelligenza artificiale non rappresenta soltanto qualcosa dal quale proteggersi: può diventare uno degli strumenti attraverso i quali migliorare la qualità della vita.
Automatizzare attività ripetitive significa potenzialmente sottrarre ore a lavori che non richiedono creatività o decisione umana. Accelerare l’analisi di grandi quantità di informazioni può sostenere ricerca scientifica, medicina, istruzione, servizi pubblici e lavoro professionale. Rendere accessibili capacità oggi costose può consentire a una piccola impresa, a un ricercatore o a un singolo cittadino di fare ciò che fino a pochi anni fa richiedeva strutture molto più grandi.
Naturalmente l’aumento della produttività non si trasforma automaticamente in tempo libero. Una società può utilizzare l’AI per ridurre il lavoro necessario a produrre la stessa quantità di beni e servizi oppure per pretendere che nello stesso tempo se ne producano ancora di più. La tecnologia rende possibile il guadagno di efficienza; la distribuzione di quel vantaggio rimane una scelta economica e sociale.
Demonizzare lo strumento non risolve questa scelta. Rischia anzi di spostare l’attenzione dalla domanda che dovrebbe accompagnare la trasformazione: come utilizzare l’aumento di produttività per migliorare concretamente la vita delle persone.
Sicurezza e sviluppo non sono due alternative
Prendere sul serio la sicurezza dell’intelligenza artificiale significa continuare a studiare anche gli scenari estremi. Sarebbe altrettanto sbagliato liquidare ogni preoccupazione perché i modelli attuali non possiedono le capacità immaginate per una futura superintelligenza.
Ma prudenza e catastrofismo non sono sinonimi. L’intelligenza artificiale viene costruita all’interno di infrastrutture progettate dagli esseri umani, riceve gli accessi che gli esseri umani decidono di concederle e opera secondo sistemi ai quali qualcuno ha scelto di collegarla. Quanto maggiore diventerà la sua capacità, tanto più importante sarà impedire che potere tecnologico e assenza di controllo crescano insieme.
Presentare l’AI come un futuro soggetto ostile rischia invece di deresponsabilizzare proprio chi quelle decisioni deve prenderle. La domanda non riguarda soltanto ciò che una macchina potrebbe diventare, ma ciò che gli esseri umani sceglieranno di farle fare.
E mentre discutiamo della possibilità che un giorno l’intelligenza artificiale possa diventare abbastanza potente da sfuggire al controllo, sarebbe utile non perdere di vista un fatto molto più vicino: per ora il controllo, nel bene e nel male, continua a essere nostro.
RotoNotizie | © riproduzione riservata
