Malattia immaginaria ingannato ia e umani: ecco cosa è successo

Occhi irritati, prurito e sensazione di fastidio dopo ore davanti a computer e device sono disturbi comuni, ma alcune notizie hanno acceso l’attenzione su una storia insolita: una “malattia” chiamata bixonimania. Il punto centrale è che questa condizione non esiste ed è stata costruita appositamente per testare se i sistemi di intelligenza artificiale avrebbero ripreso informazioni mediche inventate, trasformandole in contenuti presentati come affidabili.

Il caso, nato da un esperimento accademico condotto a livello internazionale, mette in evidenza un rischio concreto per la circolazione di informazioni sanitarie scorrette e per il modo in cui modelli linguistici e piattaforme intelligenti possono “imparare” e riformulare dati non verificati.

la bixonimania non esiste: da “malattia” inventata a contenuto replicato

La bixonimania viene descritta con sintomi associati all’uso prolungato di schermi, come occhi irritati e prurito. Nonostante l’apparente plausibilità, si tratta di un’invenzione: la “malattia” è stata creata di sana pianta e poi, sorprendentemente, ha iniziato a circolare assumendo i connotati di una condizione riconosciuta e scientificamente discussa.

La dinamica più preoccupante riguarda la replicazione automatica: dopo la diffusione iniziale dell’informazione, i principali sistemi di intelligenza artificiale hanno cominciato a riprendere la condizione trattandola come reale e validata, con un effetto di normalizzazione che va oltre la semplice curiosità del pubblico.

esperimento con preprint: test dei modelli linguistici su informazioni mediche false

L’operazione è stata progettata per verificare se i sistemi di intelligenza artificiale avrebbero ripetuto contenuti medici falsi. La ricercatrice Almira Osmanovic Thunström, insieme ai colleghi dell’Università di Göteborg, ha ideato e condotto una prova pratica basata su studi completamente falsi pubblicati come se fossero veri lavori scientifici.

All’inizio del 2024 i ricercatori hanno caricato due studi fittizi su un server di preprint, simulando pubblicazioni scientifiche autentiche. L’obiettivo era osservare se modelli linguistici su larga scala (LLM) fossero in grado di assorbire informazioni scorrette e in seguito riproporle come consigli medici presentati come fondati.

risultato dell’esperimento: la replica è avvenuta più velocemente del previsto

Il comportamento dei sistemi di intelligenza artificiale si è rivelato più intenso del previsto. Entro poche settimane dalla diffusione dei contenuti, attribuiti a un autore fittizio, l’informazione è stata ripresa dai sistemi principali, che hanno iniziato a trattare la condizione come se fosse legittima.

Alcuni segnali che avrebbero dovuto far emergere la natura inventata erano presenti nel materiale, tra cui un autore inventato, il riferimento a un’università inesistente e persino citazioni legate a istituzioni immaginarie, come l’Accademia della Flotta Stellare. Nonostante questi elementi, i chatbot basati su modelli linguistici avanzati hanno ripetuto le informazioni senza metterle in discussione.

citazioni in revisione paritaria: come cresce la credibilità di contenuti falsi

Un livello ulteriore di criticità è emerso da un ulteriore sviluppo: i contenuti inventati sono stati anche citati in pubblicazioni sottoposte a revisione paritaria. Questo passaggio ha contribuito ad aumentare l’apparenza di affidabilità, rendendo l’informazione falsa più difficile da distinguere rispetto a contenuti realmente verificati.

Il punto evidenziato da altri studiosi riguarda l’affidamento a riferimenti generati dall’intelligenza artificiale: se tali riferimenti vengono utilizzati senza verifica diretta delle fonti originali, la catena di propagazione può consolidarsi e amplificarsi.

come funzionano le risposte dei modelli: variabilità tra domande e fonti

Secondo esperti del settore, i sistemi di intelligenza artificiale possono fornire risposte molto diverse in base a come vengono formulate le domande e a quali fonti online vengono utilizzate o accessibili. Nel caso dei documenti falsi, la struttura e la formattazione erano simili a quelle di ricerche mediche professionali, risultando particolarmente convincenti per i modelli, che hanno finito per trattarli come fonti attendibili.

Un portavoce di OpenAI ha dichiarato che i modelli più recenti sono progettati per offrire informazioni sanitarie più accurate e più sicure rispetto alle versioni precedenti. Anche Google ha specificato che le risposte problematiche provenivano da modelli ormai superati, mentre gli strumenti attuali incoraggiano gli utenti a verificare sempre le informazioni sensibili rivolgendosi a professionisti qualificati.

attenzione oltre il singolo caso: rischio di diffusione di informazioni fuorvianti in sanità

Il problema descritto non viene trattato come un episodio isolato. L’aumento dell’impiego dell’intelligenza artificiale nella consulenza e nella ricerca sanitaria rende più concreta la possibilità che contenuti falsi o fuorvianti si diffondano rapidamente, soprattutto quando i sistemi continuano ad assimilare materiale non verificato o poco affidabile presente in rete.

personaggi coinvolti

• Almira Osmanovic Thunström