Sanità autodiagnosi con chatbot pericolosa: cosa sapere e rischi reali

Il passaggio dall’informazione medica all’uso dell’intelligenza artificiale impone un confronto immediato su affidabilità, responsabilità e gestione del dato. In un contesto dedicato a AI e cybersecurity in sanità, Andrea Violetti, presidente di Confassociazioni digital, ha messo al centro due temi: il confine tra supporto e autodiagnosi e la necessità di sovranità digitale come requisito operativo nelle scelte tecnologiche.

affidabilità delle diagnosi con ai: differenze tra richiesta corretta e domande del paziente

Violetti ha avviato l’intervento richiamando il rischio di un passaggio improprio dal “dottor Google” al “dottor AI”. Secondo la sua posizione, la criticità non riguarda l’uso dell’AI come strumento, purché la richiesta venga presentata al medico in modo collaborativo e il professionista mantenga la capacità di riconoscere i limiti di una diagnosi formulata tramite Large Language Models. Il pericolo reale, nel quadro delineato, emerge quando alcune persone iniziano a curarsi da sole partendo direttamente dalle risposte del modello.

studio di oxford: conformità alta con domande ben formulate, crollo con domande di pazienti non esperti

Nel merito dell’affidabilità, è stato citato uno studio dell’Università di Oxford, pubblicato su Nature medicine nel febbraio 2026. La ricerca ha testato i sistemi di autodiagnosi automatica basati su chatbot, osservando una differenza marcata tra scenario controllato e scenario reale.

Quando la domanda risulta posta in maniera corretta, la conformità delle risposte si colloca intorno al 90-95%. In caso contrario, quando la richiesta arriva da un comune paziente, l’esattezza dei risultati scende fino al 30%. Violetti ha indicato tale divario come elemento di rischio non accettabile.

responsabilità clinica e ai act: il medico resta l’ultimo decisore

La cornice normativa richiamata da Violetti collega direttamente responsabilità clinica e utilizzo dell’AI. La legge italiana di recepimento dell’Ai Act, secondo quanto spiegato, conferma negli articoli 7 e 8 che la decisone finale spetta al medico. È il professionista, quindi, a stabilire cosa comunicare in termini di diagnosi, cura medica o anche chirurgia robotica.

Il punto centrale, nel ragionamento presentato, riguarda il mantenimento di una catena decisionale in cui l’AI può supportare, mentre la decisione clinica non viene delegata al modello.

sovranità digitale in sanità: controllo su dati e algoritmi

Un’ulteriore parte dell’intervento ha riguardato la sovranità digitale. Violetti ha precisato che il concetto non va inteso in termini astratti o utopici, ma come un elemento tecnologico concreto da tenere presente quando si affrontano scelte importanti di investimento. In sanità, la questione diventa particolarmente sensibile: appare “singolare”, nel quadro riportato, immaginare che i dati sanitari non risiedano in Italia o in Europa.

sovranità come controllo di dati e algoritmi

La sovranità, come definita, significa avere il controllo sia su dati sia su algoritmi. La sfida viene descritta come più complessa, perché sul piano globale la competizione sull’intelligenza artificiale si concentra, secondo la prospettiva indicata, tra Stati Uniti e Cina. Senza entrare in dettagli geopolitici, è stato sottolineato che entrambe le nazioni stanno investendo decine di miliardi di dollari nella tecnologia.

quadro complessivo: prevenzione dell’autodiagnosi e gestione strategica dell’ai

Le posizioni espresse convergono su un’unica direzione: il valore dell’AI in sanità deve essere accompagnato da limiti chiari e da un impianto di responsabilità. L’affidabilità descritta da Oxford mostra che la qualità dei risultati dipende dalla formulazione della richiesta, con un calo drastico quando a parlare è un paziente non esperto. In parallelo, la cornice normativa richiamata ribadisce che la scelta clinica rimane in capo al medico. Sul piano strategico, la sovranità digitale viene indicata come condizione per governare dati e algoritmi, anche in un contesto competitivo internazionale.

Personaggi

• Andrea Violetti
• Francesco Zaffini