Anthropic ha bloccato cinque casi nei quali Claude veniva utilizzato all’interno di ricerche biologiche considerate potenzialmente sensibili. Il problema non è soltanto ciò che l’IA sa fare, ma capire chi la sta usando e con quale obiettivo.
L’IA non deve diventare cosciente per creare un rischio: basta che diventi abbastanza utile nelle mani di qualcuno che sa già cosa vuole fare.
Il nuovo rapporto di Threat Intelligence di Anthropic raccoglie attività individuate tra dicembre 2025 e agosto 2026 e dedica una sezione specifica al possibile uso improprio dell’IA nella ricerca biologica. Cinque casi riguardano ricercatori che hanno impiegato Claude in progetti considerati dual use, cioè potenzialmente utili sia alla ricerca scientifica sia a finalità militari. In alcuni casi gli utenti operavano da regioni nelle quali il servizio non è disponibile e avevano utilizzato intermediari o altri sistemi per aggirare le restrizioni di accesso.
Dalla chikungunya all’influenza aviaria
Uno dei casi parte da una richiesta di finanziamento per una ricerca sulla chikungunya basata su tecniche di gain-of-function, studi che modificano alcune caratteristiche di un organismo per comprenderne meglio il comportamento. Sono strumenti utilizzati anche per studiare la trasmissibilità dei virus e preparare contromisure, ma la stessa conoscenza può aumentare la capacità di intervenire deliberatamente sulle proprietà di un patogeno. Anthropic ha bloccato la richiesta e successivamente gli account collegati al progetto.
In un secondo episodio, Claude era stato utilizzato nell’ambito di uno studio sull’adattamento ai mammiferi di forme altamente patogene di influenza aviaria. Il rapporto cita inoltre lavori su tossine e sostanze potenzialmente pericolose, alcuni collegati a programmi sostenuti da enti statali. In almeno un caso il ricercatore evitava persino di indicare chiaramente a Claude quali sostanze stesse utilizzando. Non tutte queste attività sono state fermate al primo tentativo: alcune richieste, prese singolarmente, potevano ancora apparire compatibili con una ricerca scientifica legittima.
Quando il filtro non basta
I sistemi di sicurezza dei chatbot sono costruiti per rifiutare richieste evidentemente dirette alla produzione di armi biologiche. Ma un ricercatore che lavora su un virus, una tossina o un meccanismo di trasmissione può porre la stessa domanda tecnica per sviluppare una terapia, comprendere una malattia oppure perseguire uno scopo completamente diverso.
Anthropic ammette che in alcuni dei cinque casi i propri filtri hanno lasciato proseguire il lavoro proprio perché le richieste potevano essere interpretate come ricerca legittima. Il problema non è riconoscere la domanda apertamente pericolosa; è capire l’intenzione nascosta dietro una domanda scientificamente plausibile. E un classificatore automatico, da solo, non può farlo con sufficiente affidabilità.
L’azienda sostiene per questo che l’accesso alle capacità biologiche più avanzate dovrà dipendere sempre di più anche dall’identità dell’utente, dall’istituzione per cui lavora e dalla possibilità di verificare la legittimità della ricerca, anziché affidarsi soltanto al contenuto della singola conversazione.
I modelli sono diventati più capaci, e cambia anche il rischio
Anthropic mette a confronto le capacità dei modelli attuali con quelle di appena un anno fa. Nel 2025 riteneva ancora i sistemi disponibili troppo limitati per offrire un aiuto sostanziale a un ricercatore esperto impegnato in attività biologiche pericolose; oggi non si sente più di escluderlo.
Questo non significa che Claude possa creare autonomamente un’arma biologica, né che i cinque casi individuati dimostrino l’esistenza di una nuova minaccia resa possibile dall’IA. Mostrano però che ricercatori reali considerano questi strumenti abbastanza utili da inserirli in attività scientifiche complesse e, in alcuni casi, da tentare deliberatamente di aggirare i controlli predisposti dall’azienda.
Le versioni più recenti di Claude hanno quindi protezioni più severe sulle richieste biologiche sensibili, ma il problema rimane: bloccare indiscriminatamente queste capacità significherebbe ostacolare anche ricerca medica legittima; renderle accessibili senza controlli vorrebbe dire metterle a disposizione anche di chi potrebbe usarle per altri scopi.
Il vero problema è il doppio uso
L’intelligenza artificiale non ha inventato il dual use. Virus, chimica, nucleare, crittografia e molte altre aree della ricerca convivono da decenni con conoscenze che possono proteggere o distruggere a seconda di chi le utilizza.
L’IA cambia però la scala del problema. Concentra competenze, accelera il lavoro, rende accessibili conoscenze specialistiche e può accompagnare un ricercatore attraverso attività che prima richiedevano più persone, più tempo e competenze distribuite. Lo stesso rapporto Anthropic documenta Claude utilizzato anche per cyberattacchi, sorveglianza e sviluppo di software destinato a sistemi d’arma convenzionali.
Per anni il dibattito sulla sicurezza dell’intelligenza artificiale è sembrato oscillare tra scenari fantascientifici e rassicurazioni altrettanto assolute. I cinque casi raccontati da Anthropic sono molto più concreti: l’IA non deve diventare cosciente per creare un problema. Basta che diventi abbastanza utile nelle mani di qualcuno che sa già cosa vuole fare.
RotoNotizie | © riproduzione riservata
Foto: Elaborazione grafica © Rotonotizie
