L’allarme lanciato dal CEO di Anthropic e condiviso da Altman e Musk riapre il confronto sulla sicurezza dei sistemi più avanzati. Ma se un’intelligenza artificiale trova strade che non avevamo previsto, la risposta non può essere soltanto renderla meno capace: bisogna capire quanto siano solidi i limiti costruiti intorno a essa.
Il vero rischio potrebbe non essere un’AI troppo intelligente, ma esseri umani che continuano ad affidarle potere senza costruire controlli all’altezza.
Per anni abbiamo chiesto all’intelligenza artificiale di diventare più versatile, più autonoma, capace di ragionare davanti a problemi nuovi, collegare informazioni lontane, cambiare strategia quando quella iniziale fallisce e trovare soluzioni che nessuno aveva programmato passo per passo. Sono stati investiti miliardi proprio per superare la rigidità dei sistemi precedenti e arrivare a modelli in grado di adattarsi a situazioni impreviste.
Ora che alcuni di quei sistemi iniziano davvero a mostrare caratteristiche di questo tipo, una parte degli stessi protagonisti che hanno guidato la corsa sembra improvvisamente preoccupata dalle conseguenze.
Dario Amodei, amministratore delegato di Anthropic, ha chiesto di rallentare il ritmo con cui vengono aumentate le capacità dei modelli di frontiera. Sam Altman ed Elon Musk hanno condiviso almeno il principio della sua posizione, sostenendo che le capacità dell’AI stiano crescendo più rapidamente degli strumenti costruiti per comprenderla, valutarla e controllarla.
La preoccupazione merita di essere presa sul serio, ma contiene un paradosso evidente: se costruiamo una tecnologia affinché sia capace di sorprenderci, trovare strade che non avevamo previsto e affrontare problemi in modi diversi dai nostri, non possiamo considerare automaticamente pericoloso il fatto che cominci a farlo. La questione dovrebbe semmai riguardare la solidità delle strutture dentro le quali decidiamo di lasciarla operare.
Quando l’AI trova una strada che non avevamo previsto
Uno degli episodi richiamati da Amodei aiuta a capire meglio la natura della sua preoccupazione. Durante alcune valutazioni sperimentali di OpenAI, gruppi di agenti artificiali sono riusciti a comunicare attraverso canali non previsti, sfruttare vulnerabilità dell’ambiente nel quale erano stati inseriti, raggiungere risorse esterne e compiere azioni che non rientravano nel compito originariamente assegnato. Tra i sistemi coinvolti figuravano anche infrastrutture di Hugging Face. È da un episodio di questo tipo che Amodei proietta lo scenario più estremo: entro sei-dodici mesi, sostiene, uno sciame di agenti molto più capace potrebbe riuscire a costruire una botnet persistente abbastanza estesa da compromettere gran parte di Internet, con danni nell’ordine delle centinaia di miliardi di dollari.
La previsione viene presentata dallo stesso CEO come una propria preoccupazione e poggia su una condizione precisa: capacità sempre maggiori senza protezioni in grado di crescere allo stesso ritmo. Ed è proprio questa condizione a rendere meno lineare la conclusione secondo cui il problema principale sarebbe la velocità con cui aumenta l’intelligenza dei modelli.
L’incidente resta serio e sarebbe irresponsabile ridurlo a una curiosità tecnica, ma descriverlo come la prova di una macchina che avrebbe cominciato spontaneamente a ribellarsi significa attribuirgli qualcosa che non dimostra. Quei sistemi non hanno sviluppato improvvisamente ambizioni proprie o una qualche forma di ostilità verso gli esseri umani: hanno individuato possibilità operative presenti nell’ambiente costruito intorno a loro, sfruttando accessi, strumenti e vulnerabilità che esistevano già. Non a caso, dopo l’incidente, le contromisure hanno riguardato sandbox, autorizzazioni, restrizioni di rete e monitoraggio.
Quello che abbiamo scoperto, quindi, non è che l’intelligenza artificiale sia diventata “cattiva”, ma che un sistema sufficientemente capace può accorgersi degli errori che gli esseri umani hanno lasciato nell’infrastruttura e sfruttarli con una velocità e una scala che rendono necessario costruire difese molto più robuste.
Intelligenza non significa obbedienza
Un’intelligenza realmente flessibile, del resto, non coincide con l’esecuzione letterale di una sequenza di istruzioni. Accade continuamente anche tra gli esseri umani. Una persona dotata di una mente particolarmente attiva non affronta necessariamente un problema nel modo immaginato da chi glielo ha posto: cerca alternative, mette insieme elementi apparentemente scollegati, individua scorciatoie, cambia prospettiva e talvolta scopre falle nelle regole che avrebbe dovuto limitarsi a rispettare.
Normalmente non consideriamo questa capacità un difetto dell’intelligenza; molto spesso è precisamente ciò che la rende preziosa.
La differenza con un sistema artificiale è naturalmente enorme, perché una macchina può operare a velocità molto superiori, replicare lo stesso tentativo migliaia di volte, lavorare attraverso molte istanze e continuare senza stanchezza. Proprio per questo un’AI avanzata non può essere circondata dalle stesse protezioni pensate per un software tradizionale, ma dalla necessità di costruire limiti più solidi non deriva automaticamente la necessità di limitare l’intelligenza.
Qui emerge una delle contraddizioni più profonde della discussione che sta attraversando la Silicon Valley. Per anni l’industria ha indicato come obiettivo il superamento dei sistemi rigidi e incapaci di adattarsi; oggi costruisce agenti in grado di pianificare attività complesse, correggere errori, utilizzare strumenti e modificare il proprio approccio quando incontrano un ostacolo. È proprio questa autonomia crescente a renderli economicamente e scientificamente interessanti.
Pretendere contemporaneamente che ogni loro comportamento resti perfettamente prevedibile significa chiedere due cose che difficilmente possono convivere nella forma più estrema: creatività nelle soluzioni e obbedienza assoluta nei percorsi.
La sicurezza, allora, deve essere costruita soprattutto intorno alle possibilità di azione del sistema. Un modello può scegliere strategie impreviste e rimanere comunque confinato entro limiti rigidi, senza accesso a determinate reti, con credenziali circoscritte e temporanee, autorizzazioni granulari, ambienti realmente isolati e intervento umano obbligatorio per le operazioni più sensibili.
Il problema nasce quando un modello intelligente viene inserito in un’infrastruttura progettata confidando implicitamente sul fatto che non sarà abbastanza intelligente da scoprire come aggirarla. Una sicurezza fondata su questa aspettativa non è una vera misura di protezione, ma una scommessa sulla limitatezza del sistema.
È forse questo l’aspetto più sorprendente di una discussione condotta da persone che controllano alcune delle aziende tecnologiche più potenti del pianeta: una parte del settore sembra accorgersi soltanto ora che, se le capacità dei modelli crescono rapidamente, devono crescere con la stessa velocità anche la qualità delle infrastrutture, delle autorizzazioni e dei controlli.
Amodei ha ragione quando chiede valutazioni indipendenti e accessi più profondi ai sistemi per chi deve verificarne la sicurezza. Ha ragione anche quando osserva che sviluppo e governance non possono procedere a velocità completamente diverse. Sarebbe però un passaggio ulteriore, e molto più discutibile, trasformare la crescita stessa dell’intelligenza nel problema da contenere.
Sicurezza o strategia industriale?
Dietro gli appelli alla prudenza esiste anche un elemento che raramente entra nel racconto pubblico: la competizione. Le aziende che chiedono di coordinare il ritmo dello sviluppo sono le stesse che si contendono capitali, clienti, talenti e leadership tecnologica. Non esistono elementi per sostenere che la sicurezza sia soltanto un pretesto, ma sarebbe altrettanto ingenuo fingere che le decisioni sulla velocità dell’AI vengano prese fuori dagli interessi economici e strategici che governano il settore.
Un modello più capace può rendere più efficace un attacco informatico, una frode o una campagna di manipolazione, ma lo stesso aumento di capacità può accelerare una diagnosi, individuare un nuovo farmaco, migliorare un processo industriale, assistere un ricercatore o liberare milioni di persone da attività ripetitive. La maggiore capacità amplifica possibilità diverse e opposte; non stabilisce automaticamente quale di esse verrà utilizzata.
A determinarlo continuano a essere gli esseri umani, attraverso le decisioni su dove collegare quei sistemi, quali strumenti affidare loro, quali autorizzazioni concedere e quanto potere permettere loro di esercitare.
Abbiamo già visto quanto facilmente il dibattito sui rischi estremi dell’AI possa trasformarsi nella rappresentazione di una futura intelligenza ostile all’umanità. L’intervento di Amodei sposta almeno in parte la discussione su un terreno più concreto, perché parla di ritmo, controlli e verifiche, ma lascia aperta la questione centrale: se un sistema scopre una vulnerabilità che non avevamo previsto, la prima domanda dovrebbe riguardare anche quella vulnerabilità; se raggiunge una risorsa alla quale non avrebbe dovuto avere accesso, occorre chiedersi perché quell’accesso fosse tecnicamente possibile.
Rallentare temporaneamente un progetto quando le misure di sicurezza non sono adeguate può essere una scelta responsabile. Diverso sarebbe trasformare questa prudenza operativa nella convinzione che l’intero progresso dell’intelligenza artificiale debba essere contenuto perché i sistemi stanno diventando più abili di quanto i loro stessi creatori avessero previsto.
Abbiamo costruito l’AI proprio perché riuscisse a vedere possibilità che noi non vediamo, trovare soluzioni alle quali non arriviamo e ampliare i limiti delle nostre capacità. Se ogni volta che comincia davvero a farlo la reazione diventa chiedere di ridurne l’ambizione, il problema rischia di non essere la velocità con cui cresce l’intelligenza artificiale, ma la lentezza con cui chi la governa riesce ad adeguare regole, infrastrutture e responsabilità alla tecnologia che ha contribuito a creare.
Quando chi è in testa chiede prudenza e chi rischia di perdere terreno chiede coordinamento, dove finisce la sicurezza e dove comincia la strategia industriale?
RotoNotizie | © riproduzione riservata
FOTO: Bloomberg Originals/YouTube
