Chiedere un consiglio a un’intelligenza artificiale è diventata un’abitudine sempre più diffusa, ma trasformare quel suggerimento in una decisione efficace rimane una sfida complessa. Secondo una nuova ricerca condotta da studiosi delle Università di Milano-Bicocca e Pavia, il limite non sarebbe soltanto tecnologico, ma soprattutto legato al modo in cui il cervello umano interpreta e utilizza le informazioni provenienti dalle macchine.
Lo studio ha analizzato il rapporto tra persone e agenti artificiali, cercando di capire come gli esseri umani integrano i suggerimenti forniti dagli algoritmi durante un processo decisionale.
I risultati mostrano che, anche quando riconosciamo l’affidabilità dell’intelligenza artificiale, tendiamo comunque a ridurre il valore dei suoi consigli, perdendo una parte significativa del potenziale vantaggio offerto dalla tecnologia.
L’esperimento con 89 partecipanti e sette agenti artificiali
Per osservare il comportamento umano davanti ai suggerimenti dell’AI, i ricercatori hanno coinvolto 89 partecipanti in un test basato sulla precisione visiva.
Durante l’esperimento, ogni persona doveva affrontare una serie di decisioni ricevendo contemporaneamente il supporto di uno dei sette agenti artificiali sviluppati dagli studiosi. Ogni algoritmo aveva caratteristiche differenti in termini di competenza e livello di sicurezza.
L’obiettivo era capire quanto efficacemente gli individui riuscissero a combinare la propria valutazione con quella fornita dalla macchina.
Per misurare la qualità delle decisioni, il gruppo di ricerca ha utilizzato un modello bayesiano, un sistema matematico in grado di determinare quale sarebbe stata la scelta ideale integrando correttamente le informazioni provenienti dall’uomo e dall’intelligenza artificiale.
I risultati hanno evidenziato un miglioramento delle prestazioni grazie al supporto dell’AI, con un aumento medio dell’accuratezza del 9%.
Tuttavia, il beneficio ottenuto è risultato molto inferiore rispetto a quello teoricamente raggiungibile attraverso un’integrazione ottimale dei due contributi.
Il peso dell’ego influenza il rapporto con gli algoritmi
Uno dei principali ostacoli individuati dalla ricerca riguarda il cosiddetto bias egocentrico, ovvero la tendenza delle persone a dare maggiore importanza al proprio giudizio rispetto a quello dell’intelligenza artificiale.
Anche quando un utente sa che l’algoritmo possiede una maggiore capacità di previsione o analisi, spesso continua a privilegiare la propria intuizione.
Il cervello umano tende quindi a penalizzare il suggerimento dell’AI semplicemente perché proviene da una fonte esterna e non dalla propria esperienza diretta.
Questo comportamento può ridurre l’efficacia della collaborazione tra persona e macchina, impedendo di sfruttare pienamente strumenti progettati proprio per migliorare le decisioni.
La difficoltà nel trasformare la fiducia generale in una scelta concreta
Un secondo limite individuato dagli studiosi riguarda il cosiddetto deficit globale-locale.
Le persone possono avere una convinzione generale sull’affidabilità di un’intelligenza artificiale, riconoscendo che il sistema è competente in un determinato settore. Tuttavia, questa fiducia non sempre viene trasferita alla singola decisione presa in un momento specifico.
In altre parole, un individuo può sapere che un algoritmo è generalmente preciso, ma allo stesso tempo dubitare del suo consiglio in una situazione particolare.
Questo fenomeno si verifica anche quando agli utenti vengono fornite informazioni sulle capacità del software, dimostrando che il problema riguarda soprattutto il modo in cui il cervello elabora le informazioni disponibili.
Chi ha meno competenze sfrutta meno l’aiuto dell’AI
La ricerca evidenzia anche una dinamica particolarmente rilevante: le persone meno esperte in un determinato compito sono spesso quelle che riescono meno a beneficiare dell’intelligenza artificiale.
Il motivo è legato alla bassa sensibilità metacognitiva, cioè alla difficoltà di valutare correttamente la propria capacità di giudizio.
Si crea così una situazione complessa: chi parte da una posizione di maggiore difficoltà commette più errori, fatica a riconoscerli e non riesce a stabilire quanto affidarsi al suggerimento dell’algoritmo.
Al contrario, gli utenti più competenti sembrano essere anche quelli più capaci di capire quando lasciare maggiore spazio alla macchina, migliorando ulteriormente le proprie prestazioni.
L’AI da sola non basta: serve educare alla collaborazione
I risultati dello studio hanno implicazioni importanti in molti settori in cui l’intelligenza artificiale sta entrando nei processi decisionali.
Uno degli ambiti più delicati è quello della diagnostica medica assistita dall’AI, dove la qualità dell’algoritmo deve essere accompagnata dalla capacità degli operatori di interpretare correttamente i suggerimenti ricevuti.
Avere un sistema altamente preciso non è sufficiente se chi lo utilizza non sa valutare quando affidarsi alle sue indicazioni.
Secondo Joshua Zonca, tra gli autori della ricerca, l’integrazione dei consigli forniti dagli agenti artificiali rimane ancora significativamente inferiore al livello possibile, generando una perdita rilevante di accuratezza potenziale.
La nuova sfida è costruire una collaborazione efficace tra uomo e macchina
Lo studio suggerisce quindi che il futuro dell’intelligenza artificiale non dipenderà soltanto dallo sviluppo di algoritmi sempre più avanzati.
Sarà altrettanto importante formare le persone a utilizzare questi strumenti in modo consapevole, sviluppando una nuova capacità: quella di collaborare con sistemi artificiali senza affidarsi ciecamente, ma senza nemmeno sottovalutarne il contributo.
La vera evoluzione dell’AI passa quindi anche dalla capacità umana di riconoscere il valore del supporto tecnologico e integrarlo nelle proprie decisioni.
