La valutazione arriva dall’interno di Anthropic e riguarda scenari futuri, non i modelli oggi disponibili. Hubinger concentra il rischio su sistemi capaci di migliorare autonomamente le proprie capacità, mentre le dimissioni di Jacob Coxon riaprono il confronto sulla velocità con cui procede lo sviluppo dell’intelligenza artificiale.
Hubinger ha affidato la sua valutazione a un post su X, intervenendo nella discussione aperta dalle dimissioni del collega Jacob Coxon. «Crediamo davvero che l’AI possa uccidere tutti gli esseri umani», ha scritto, precisando che la percentuale superiore al 10% rappresenta una sua stima personale.
La preoccupazione non riguarda i modelli attualmente disponibili. Hubinger indica il pericolo nei sistemi futuri capaci di migliorare autonomamente le proprie capacità, uno sviluppo che secondo il ricercatore starebbe procedendo più velocemente di quanto previsto. Anthropic, aggiunge, sta cercando di affrontare il problema, ma non dispone ancora di una soluzione in grado di garantire che una futura superintelligenza rimanga controllabile e coerente con gli obiettivi umani.
Jacob is correct here—we really do earnestly believe AI could kill all humans! I personally think it is >10% within the next decade. I believe Anthropic is trying its best, but we do not yet have a plan to solve alignment for superintelligence and are not clearly on track to. https://t.co/QAIHiFP3QZ
— Evan Hubinger (@EvanHub) September 9, 2026
Le dichiarazioni sono arrivate dopo l’uscita dall’azienda di Jacob Coxon, che negli ultimi tre anni ha lavorato alla ricerca sul pre-addestramento prima in OpenAI e successivamente in Anthropic. Annunciando le dimissioni, Coxon ha accusato entrambe le società di non comportarsi in maniera sufficientemente responsabile di fronte alla velocità con cui stanno aumentando le capacità dei loro sistemi.
Secondo Coxon, i principali laboratori sono ormai coinvolti in una competizione per arrivare per primi a sistemi capaci di auto-migliorarsi. Il ricercatore sostiene che in Anthropic la portata dei possibili rischi sia ben conosciuta, ma che la paura di lasciare spazio ai concorrenti continui a spingere lo sviluppo in avanti. Una dinamica che ha definito una scommessa sulle conseguenze future della tecnologia.
Il confronto coinvolge ormai direttamente anche gli organismi pubblici incaricati di valutare i modelli più avanzati. Nel Regno Unito l’AI Security Institute continua a sottoporre i sistemi di frontiera a test sulle capacità e sui possibili rischi; tra quelli esaminati figura anche GPT-6 Astra, il modello presentato da OpenAI il 3 settembre.
Le parole provenienti da Anthropic aggiungono così una nuova voce a un dibattito che da tempo accompagna lo sviluppo dell’intelligenza artificiale. Questa volta, però, l’allarme arriva da ricercatori che partecipano direttamente alla costruzione e alla valutazione della sicurezza dei sistemi più avanzati.
RotoNotizie | © riproduzione riservata
FOTO: elaborazione grafica Rotonotizie
