L’Intelligenza artificiale ci restituisce quasi sempre un testo migliore. Ma se milioni di persone chiedono alla stessa tecnologia di migliorare le proprie parole, qualcosa comincia inevitabilmente ad assomigliarsi.
Probabilmente sta succedendo anche adesso. Qualcuno scrive una mail e chiede all’Intelligenza artificiale di renderla più professionale. Un altro dopo aver preparato una presentazione e domanda di semplificarla. Uno studente chiede di ripulire una tesina. Un’azienda ha bisogno di riscrivere un comunicato. Un giornalista cerca un titolo migliore.
Alla fine ognuno avrà ricevuto parole diverse. Ma forse meno diverse di quanto sarebbero state senza l’IA.
E’ questo il fenomeno che un gruppo di ricercatori ha provato a misurare. Lo studio, pubblicato il 24 agosto su Nature Human Behaviour, ha attraversato sette raccolte di dati e analizzato complessivamente oltre 880.000 testi.
Il risultato non è una curiosità statistica: quando i grandi modelli linguistici riscrivono o migliorano un testo, conservano si il contenuto ma tendono a uniformarne lo stile. E infatti la variabilità della complessità della scrittura si è ridotta, a seconda dei dataset e dei modelli, tra il 21 e il 50%. Questo non significa che improvvisamente scriviamo tutti le stesse frasi. Significa qualcosa di più sottile. Stiamo perdendo differenze.
Dentro una frase c’è molto più di quello che dice
Le parole in effetti non trasportano soltanto informazioni. Raccontano, spesso senza che ce ne accorgiamo, qualcosa di chi le ha scelte.
Basta osservare come costruiamo una frase: quanto la allunghiamo, dove la spezziamo, quali parole ripetiamo, quali evitiamo, come passiamo da un pensiero all’altro. In quelle scelte restano tracce dell’età, del contesto culturale, delle convinzioni, perfino dello stato psicologico di chi scrive. Ed è proprio quella somma di piccole differenze a rendere una voce riconoscibile.
Lo studio di Nature ha misurato proprio questo: dopo l’intervento del modello il testo continua a dire la stessa cosa, ma perde una parte dei segnali che permettevano di riconoscere chi l’aveva scritto. Non è una cosa banale. Abbiamo per anni chiesto alla tecnologia di comprendere il nostro linguaggio, ora che questa ci riesce, cominciamo ad utilizzarla per modificare il nostro. Non è paradossale?
La frase perfetta ha un problema: potrebbe essere perfetta per tutti
Un modello linguistico è straordinariamente efficace proprio nelle operazioni che gli chiediamo più spesso: ripulisce una frase, ne chiarisce un passaggio, accorcia un periodo che si era allungato, elimina una parola fuori posto, trova una struttura più lineare. Preso singolarmente, ogni intervento può davvero migliorare il testo originale.
Il punto è che questa stessa operazione viene ripetuta milioni di volte. I modelli hanno assorbito quantità enormi di linguaggio umano e conoscono le soluzioni più probabili, quelle che funzionano quasi sempre. Quando gli chiediamo di “migliorare” un testo, tendono naturalmente verso quelle forme. E così, senza volerlo, due scritture lontanissime possono cominciare ad avvicinarsi.
Una persona scrive male in un modo tutto suo. Un’altra scrive benissimo, sempre in un modo tutto suo. La macchina può migliorare entrambe.
Ma nel farlo può avvicinarle.
Quando perdiamo le differenze perdiamo anche informazioni
La conseguenza potrebbe sembrare minima. Se una mail è più chiara, sembra irrilevante che assomigli a un’altra.
Il problema è che la diversità linguistica non serve solo a comunicare: serve a capire chi abbiamo davanti. Psicologia, selezione del personale, marketing, medicina, studi sociali, sistemi di personalizzazione leggono proprio le variazioni del linguaggio per ricavare informazioni sulle persone. È un materiale che non si vede, ma che lavora sotto la superficie.
Quando milioni di testi passano attraverso gli stessi modelli, una parte di quei segnali diventa meno leggibile. Le sfumature si attenuano, le differenze si restringono, e ciò che prima raccontava qualcosa dell’autore comincia a raccontare un po’ di più la macchina che ha riscritto quelle parole.
I ricercatori hanno osservato anche un secondo effetto: i modelli possono accentuare le caratteristiche linguistiche dei gruppi dominanti e ridurre quelle meno rappresentate, spostando ulteriormente la scrittura dalla differenza verso la conformità.
Non serve immaginare un futuro distopico. Basta aprire LinkedIn. Ci sono già espressioni, costruzioni e ritmi che fino a pochi anni fa comparivano molto meno spesso e che oggi attraversano migliaia di post scritti da persone che non si conoscono. L’IA non li ha necessariamente inventati, li ha solo resi convenienti.
E qualche volta ci rende anche più sicuri di quanto dovremmo essere
Nello stesso numero di Nature Human Behaviour è comparso un altro studio. I ricercatori hanno analizzato anche 194.631 articoli scientifici delle scienze sociali basati su studi trasversali, cioè ricerche adatte a individuare associazioni ma molto meno utili a dimostrare che una cosa ne causi un’altra.
Quasi il 46% utilizzava comunque linguaggio causale nei titoli o negli abstract. La quota, intorno al 20% all’inizio degli anni Duemila, ha superato il 60% negli anni più recenti.
Poi gli studiosi hanno chiesto a cinque modelli linguistici di riassumere una parte di quelle ricerche ed è emerso un comportamento che conosciamo anche fuori dai laboratori nella comunicazione quotidiana: in diversi casi l’IA ha tolto le cautele.
Un risultato che diceva “A è associato a B” poteva diventare nel riassunto qualcosa di molto più vicino ad “A provoca B”. E questo non perché il modello avesse scoperto una relazione causale. Ma perché una frase più netta è spesso anche una frase più semplice.
Quando però veniva chiesto esplicitamente di usare particolare prudenza, l’eccesso diminuiva in modo drastico. Un dettaglio questo che evidenzia un fatto importante: il problema non è soltanto ciò che l’IA sa fare, ma come le chiediamo di farlo.
E questa è soltanto l’IA di oggi
Tutto questo sta accadendo con strumenti che non vengono ancora definiti AGI. I modelli che utilizziamo oggi generano linguaggio imparando strutture e relazioni da quantità gigantesche di dati. Possono ragionare, utilizzare strumenti, analizzare documenti, cercare informazioni quando dispongono dell’accesso al web e persino produrre contenuti nuovi combinando ciò che hanno appreso. Sono quindi sistemi già potentissimi. Ma l’obiettivo dichiarato da alcune delle aziende che li stanno costruendo va molto più lontano.
OpenAI descrive l’Artificial General Intelligence come una forma di IA altamente autonoma capace di superare gli esseri umani nella maggior parte dei lavori economicamente rilevanti. In sostanza: non una macchina specializzata in un compito, bravissima a scrivere un testo, programmare o analizzare una tabella, ma un sistema in grado di affrontare una quantità enorme di attività intellettuali e, in molte di queste, farle addirittura meglio di noi.
È anche per questo che ogni indiscrezione sui modelli futuri attira immediatamente attenzione.
Nelle ultime ore è circolata la voce di un modello OpenAI chiamato internamente “Bel”, al quale vengono attribuiti oltre 10.000 miliardi di parametri e un possibile ruolo nello sviluppo delle generazioni successive.
OpenAI non ha confermato né il nome né la dimensione. E diecimila miliardi di parametri, anche se confermati, non rappresenterebbero automaticamente l’arrivo di un’AGI.
Bel può quindi raccontarci quanto stanno crescendo i modelli. Ma non ancora quanto sono diventati intelligenti.
Le macchine possono diventare più brave a scrivere di noi. Possono togliere un errore, trovare il verbo giusto, rendere più chiara un’idea. Ma se per farlo finiscono per restituirci tutti la stessa voce, il rischio è che, insieme agli errori, finiscano per limare anche quelle irregolarità che fanno capire chi c’è dietro un testo.
Per questo, man mano che l’IA diventerà più potente, non basterà imparare a usarla meglio. Dovremo anche imparare a capire quando fermarla, prima che corregga proprio ciò che rende riconoscibile il modo in cui pensiamo e scriviamo.
RotoNotizie | © riproduzione riservata
FOTO: © Getty Images tramite Canva.com
