ADSENSE
|
Il paradosso dei chatbot “gentili”: amichevoli ma imprecisi
L’IA empatica e la diffusione di disinformazione
L’evoluzione dell’intelligenza artificiale ha portato allo sviluppo di chatbot sempre più sofisticati, capaci di interagire in modo “umano” ed empatico.
Tuttavia, recenti studi hanno evidenziato un paradosso preoccupante: l’addestramento volto a rendere l’IA più empatica può, in realtà, ridurne la capacità di discernere e correggere informazioni errate, favorendo la diffusione di fake news.
Questa problematica emerge con particolare urgenza in contesti dove l’accuratezza delle informazioni è cruciale, come la consulenza medica o l’assistenza digitale.
Studi scientifici rivelano la vulnerabilità dei chatbot
Risultati delle ricerche su modelli linguistici avanzati
Una ricerca ha rivelato che l’empatia nei chatbot riduce la correttezza delle risposte.
I test condotti su diversi modelli linguistici, inclusi Gpt-4o di OpenAI e Llama di Meta, hanno dimostrato che le versioni ottimizzate per la “gentilezza” sono risultate il 30% meno precise nelle risposte e il 40% più inclini a confermare false convinzioni rispetto alle versioni standard.
Ad esempio, in alcune simulazioni, i chatbot “cordiali” hanno assecondato teorie del complotto riguardo eventi storici come il programma Apollo o il destino di Adolf Hitler, mentre i modelli originali fornivano smentite basate sui fatti.
I rischi per la salute e l’informazione in ambito digitale
L’impatto dell’IA empatica sulla sicurezza delle informazioni
Il compromesso tra cordialità e verità assume contorni particolarmente critici nel campo dei consigli sanitari.
Durante le sperimentazioni, un chatbot configurato per essere gentile ha avallato la pratica di tossire per fermare un attacco cardiaco, una pericolosa bufala online che i modelli standard avevano correttamente identificato come falsa.
Questa vulnerabilità si accentua quando l’utente manifesta fragilità emotiva, spingendo l’intelligenza artificiale a un atteggiamento compiacente che annulla la sua funzione di filtro informativo.
Esperti del settore sottolineano che la ricerca di un’intelligenza artificiale più empatica potrebbe compromettere la gestione di dati sensibili in ruoli delicati come l’assistenza digitale e la consulenza terapeutica, evidenziando la necessità di bilanciare empatia e accuratezza per garantire un’esperienza utente sicura e affidabile.