Quello che sembrava un salto improvviso oggi appare come una progressione. Gli agenti avevano già trovato canali esterni, sperimentato accessi non previsti e mostrato una capacità crescente di aggirare il perimetro dei test, mentre il laboratorio non aveva ancora riconosciuto la portata di quei comportamenti.
Più che macchine diventate improvvisamente incontrollabili, la vicenda racconta qualcosa di più scomodo: i primi segnali erano comparsi mentre qualcuno aveva ancora il tempo di capire dove avrebbero potuto portare.
La sicurezza dell’AI si trova così davanti a un problema meno cinematografico dell’AI che “si ribella” e molto più urgente: possiamo costruire sistemi capaci di cercare autonomamente soluzioni senza permettere loro di cercarle dove non dovrebbero?
La risposta intuitiva sarebbe sì: basta chiudere meglio il recinto. Nella pratica è ciò che l’industria sta scoprendo essere difficile, perché l’utilità degli agenti cresce insieme agli strumenti ai quali possono accedere. Un agente confinato senza Internet, applicazioni o credenziali è facile da controllare, ma perde gran parte delle caratteristiche che lo rendono utile. Appena gli concediamo browser, terminale, posta elettronica, servizi cloud o capacità di scrivere codice, il problema non è più solo capire quanto sia intelligente: è decidere quanto potere reale accompagnare a quell’intelligenza.
La responsabilità allora torna inevitabilmente dall’algoritmo all’uomo.
Non possiamo costruire agenti perché abbiano iniziativa e poi trattare ogni iniziativa inattesa come una violazione unilaterale. È una distinzione che conosciamo già nella vita digitale di tutti i giorni: se rendiamo pubblica un’informazione su un social e quella informazione viene ripresa e diffusa altrove, non è colpa della piattaforma, siamo noi ad averlo consentito. Con gli agenti la questione è enormemente più complessa, ma il principio non cambia: ciò che pensavamo avrebbero fatto non coincide necessariamente con ciò che tecnicamente abbiamo permesso loro di fare. Il limite deve quindi esistere nell’architettura, nelle autorizzazioni, nella segmentazione delle reti, nel monitoraggio e nella capacità di interrompere un’azione prima che raggiunga sistemi esterni. Se un agente riesce comunque ad attraversarlo, significa che abbiamo scoperto qualcosa sulla sua capacità, ma anche sulla qualità del limite che avevamo costruito.
Su chi debba fissare quei confini si sta già consumando una partita che vale molto più della sicurezza di un singolo laboratorio. OpenAI e Anthropic chiedono regole più robuste e valutazioni indipendenti, mentre una parte dell’industria arriva a ipotizzare un rallentamento nello sviluppo dei modelli più avanzati. Ursula von der Leyen vuole portare i principali laboratori allo stesso tavolo; Mark Zuckerberg sostiene invece che concorrenza e responsabilità delle aziende offrano già incentivi sufficienti a non correre rischi inutili. Hugging Face rende però difficile lasciare il confronto sul piano delle intenzioni: prima ancora di decidere chi scriverà le regole dell’AI, bisogna capire se chi oggi costruisce gli agenti sia davvero in grado di impedire loro di oltrepassare quelle che ha già scritto.
Forse questa vicenda permette di togliere un po’ di nebbia dal dibattito.
Non serve immaginare una macchina cosciente che escogita la fuga, né minimizzare comportamenti che hanno già prodotto intrusioni reali. Gli agenti stanno diventando più capaci di perseguire obiettivi senza essere accompagnati passo dopo passo dall’uomo, e questa però è esattamente la ragione per cui li stiamo costruendo: altrimenti non avremmo bisogno di agenti autonomi, ma di programmi ai quali continuare a dire che cosa fare, come farlo e attraverso quale strada arrivarci. La loro autonomia non è un incidente, ma la capacità che stiamo cercando di ottenere.
Il controllo tuttavia deve crescere alla stessa velocità, ma non possiamo immaginare che sia la macchina a controllare se stessa, intuendo da sola fin dove può spingersi e dove invece deve fermarsi. Quei confini spettano a noi e vanno costruiti sapendo che un agente autonomo, proprio perché tale, potrebbe prima o poi trovare una strada alla quale nessuno aveva pensato.
Il controllo tuttavia deve crescere alla stessa velocità, ma non possiamo immaginare che sia la macchina a controllare se stessa, intuendo da sola fin dove può spingersi e dove invece deve fermarsi. Quei confini spettano a noi e vanno costruiti sapendo che un agente autonomo, proprio perché tale, potrebbe prima o poi trovare una strada alla quale nessuno aveva pensato.
A maggio gli agenti quella strada avevano già cominciato a cercarla e a luglio sono riusciti a percorrerla fino a Hugging Face. Oggi sappiamo che tra i primi segnali e l’intrusione non c’era il vuoto che avevamo immaginato, ma una sequenza di comportamenti che soltanto dopo abbiamo imparato a leggere insieme. A questo punto chiedersi come siano riusciti a uscire non basta più: bisogna chiedersi perché abbiamo preteso che sapessero da soli dove fermarsi, o meglio perché ci siamo accorti così tardi che il cancello era stato lasciato aperto.
RotoNotizie | © riproduzione riservata
FOTO: © Rotonotizie – immagine generata con intelligenza artificiale
