L’utilizzo dei chatbot basati su intelligenza artificiale nel settore sanitario sta crescendo rapidamente, ma nuove evidenze scientifiche mettono in luce importanti criticità. Secondo una ricerca pubblicata su Jama Network Open e ripresa dal Financial Times, oltre l’80% delle diagnosi formulate dai sistemi di IA nelle fasi iniziali risulta errato, soprattutto quando le informazioni disponibili sui pazienti sono limitate o incomplete.
Il problema principale risiede nella capacità dei modelli linguistici di gestire scenari incerti. Quando i dati clinici sono parziali, questi strumenti tendono a ridurre prematuramente il numero di possibili diagnosi, concentrandosi su una sola ipotesi invece di considerare un ventaglio più ampio di opzioni. Questo comportamento può portare a valutazioni imprecise e potenzialmente rischiose.
Prestazioni migliori con dati completi
La ricerca evidenzia tuttavia una significativa differenza nelle performance dei chatbot a seconda della quantità di informazioni disponibili. Quando i dati clinici risultano completi e dettagliati, l’accuratezza dei modelli migliora sensibilmente, con tassi di errore che scendono sotto il 40%. In alcuni casi, i sistemi più avanzati hanno raggiunto livelli di precisione superiori al 90% nelle diagnosi finali.
Secondo Arya Rao, ricercatrice presso il sistema sanitario Mass General Brigham e autrice principale dello studio, i modelli di intelligenza artificiale dimostrano un’elevata efficacia nella fase conclusiva del processo diagnostico. Tuttavia, è proprio nella fase iniziale, quella più aperta e incerta, che emergono le maggiori difficoltà, evidenziando un limite strutturale di questi strumenti.
I rischi dell’affidamento esclusivo ai chatbot
Le conclusioni dello studio invitano alla prudenza nell’utilizzo dell’intelligenza artificiale in ambito sanitario. Affidarsi esclusivamente ai chatbot per individuare problemi di salute può comportare rischi significativi, soprattutto quando le informazioni inserite dagli utenti sono vaghe, incomplete o poco accurate.
In contesti reali, infatti, i pazienti spesso forniscono dati frammentari o descrizioni imprecise dei sintomi. In questi casi, l’intelligenza artificiale può amplificare l’incertezza anziché ridurla, generando risultati fuorvianti. Questo aspetto sottolinea la necessità di mantenere il ruolo centrale del medico umano, capace di interpretare le informazioni in modo critico e contestualizzato.
Il futuro dell’IA nella sanità
Nonostante le criticità, i chatbot rappresentano comunque uno strumento promettente nel panorama sanitario. Il loro utilizzo potrebbe risultare particolarmente utile come supporto ai professionisti, soprattutto nelle fasi avanzate della diagnosi o nella gestione di grandi quantità di dati clinici.
Per migliorare le prestazioni, sarà fondamentale sviluppare modelli in grado di gestire meglio l’incertezza e di considerare più ipotesi diagnostiche in presenza di informazioni limitate. L’integrazione tra intelligenza artificiale e competenze mediche umane appare quindi come la soluzione più efficace, piuttosto che un approccio basato sulla sostituzione totale.
