L’intelligenza artificiale di Google è finita al centro di una polemica internazionale dopo un’inchiesta pubblicata dal quotidiano britannico The Guardian, che ha analizzato le risposte fornite da AI Overview – la funzione che sintetizza le ricerche nel motore di Big G – su temi legati alla salute.
Secondo quanto emerso, in almeno tre casi documentati, il sistema ha dato indicazioni mediche errate o fuorvianti, potenzialmente pericolose per la salute dei pazienti che cercano informazioni online. In risposta, Google ha cominciato a rimuovere alcune delle risposte contestate, ma il caso ha già sollevato preoccupazioni globali sull’affidabilità dell’IA nel settore sanitario.
Le risposte sbagliate: dal tumore al pancreas ai test epatici
L’inchiesta pubblicata il 2 gennaio ha mostrato una serie di gravi inesattezze fornite da AI Overview. Tra gli esempi segnalati:
-
Consigli sbagliati per chi ha un tumore al pancreas, tra cui l’indicazione di evitare cibi ricchi di grasso, in contrasto con molte linee guida cliniche.
-
Informazioni errate su come interpretare le analisi del fegato, in particolare sui livelli normali degli esami di funzionalità epatica.
-
Indicazioni fuorvianti sui test per il cancro, che avrebbero potuto portare alcuni utenti a sottovalutare sintomi potenzialmente gravi.
Tutti esempi che dimostrano quanto un errore dell’IA possa avere un impatto diretto sulla salute delle persone, soprattutto in un momento in cui sempre più utenti si rivolgono all’intelligenza artificiale per ottenere risposte rapide in ambito medico.
L’ascesa dell’IA come “medico virtuale” e i rischi associati
Oggi, le IA sono sempre più utilizzate per offrire supporto medico, anche senza supervisione umana. Con AI Overview, Google offre risposte sintetiche e immediate su ricerche complesse. Con Gemini, gli utenti possono addirittura caricare esami clinici e richiedere un’analisi automatica.
Nel frattempo, OpenAI ha lanciato “ChatGPT Health” il 7 gennaio, una versione specifica del chatbot ChatGPT dedicata alla salute, sviluppata in collaborazione con oltre 260 medici di 60 Paesi. L’obiettivo è fornire suggerimenti più affidabili, ma anche in questo caso la prudenza è d’obbligo.
La risposta di Google e la rimozione dei risultati errati
Il 9 gennaio, nove giorni dopo la pubblicazione dell’inchiesta, The Guardian ha riportato che Google ha iniziato a rimuovere alcune delle risposte mediche sbagliate. In particolare, sono state eliminate le sintesi AI su due ricerche specifiche:
-
“Quali sono i livelli normali per gli esami del sangue del fegato”
-
“Quali sono i livelli normali per i test di funzionalità epatica”
Un portavoce di Google ha dichiarato: “Nei casi in cui le risposte di AI Overview non siano sufficientemente contestualizzate, lavoriamo per apportare miglioramenti di ampia portata e interveniamo sulla base delle nostre policy”.
Tuttavia, il rischio rimane, soprattutto per utenti che si affidano ciecamente all’IA per prendere decisioni legate alla salute senza consultare un medico.
La salute non è un algoritmo: servono limiti e regole
L’inchiesta del Guardian solleva una questione cruciale: può l’intelligenza artificiale sostituire il medico? La risposta, almeno per ora, è no. Anche i sistemi più avanzati non possono garantire diagnosi affidabili o terapie personalizzate, perché mancano di contesto clinico, esperienza diretta e sensibilità umana.
L’uso dell’IA in ambito medico deve restare uno strumento di supporto, non una fonte primaria di diagnosi. E le big tech devono assumersi la responsabilità di garantire contenuti verificati, aggiornati e basati su fonti mediche autorevoli.
