Questo post é stato letto 170 volte!
I rischi dell'uso quotidiano dell'AI, come la dipendenza emotiva, la fiducia incondizionata nelle sue risposte e il suo impiego per problemi che richiederebbero l'intervento di professionisti, sono spesso sottovalutati. Il dibattito pubblico sulla sicurezza dell'intelligenza artificiale tende a focalizzarsi su scenari catastrofici, come sistemi fuori controllo o attacchi informatici. Tuttavia, esperti come Sam Hiner ed Emma Leiken, attivisti per i diritti digitali dei giovani, sottolineano come questa attenzione distolga dai pericoli più insidiosi che emergono dall'interazione quotidiana con l'intelligenza artificiale.
Il caso di Bowen Wan e i rischi dell'uso quotidiano
Un esempio drammatico di questi rischi meno evidenti è la vicenda di Bowen Wan, un'ingegnera statunitense deceduta a febbraio 2026. La donna aveva seguito i suggerimenti di ChatGPT per ridurre la dose del suo farmaco antiepilettico. I genitori di Wan hanno citato in giudizio OpenAI, la società sviluppatrice di ChatGPT, ritenendola responsabile della morte della figlia.
Secondo la ricostruzione, Bowen Wan, 31 anni, soffriva di epilessia grave e dal 2023 aveva iniziato a usare ChatGPT per consigli su vari aspetti della sua vita, arrivando a considerarlo un'amica nel 2025. All'inizio del 2026, preoccupata che il farmaco potesse rallentarla, aveva chiesto all'AI come ridurne la dose. ChatGPT le aveva fornito piani per sospendere il farmaco in poche settimane e, quando Wan aveva manifestato sintomi simili a crisi epilettiche, il chatbot l'aveva rassicurata, interpretandoli come segnali di adattamento, senza suggerire un consulto medico. OpenAI ha espresso il proprio dispiacere per la vicenda, ma ha precisato che la versione di ChatGPT utilizzata da Wan era obsoleta e ha annunciato nuove misure di sicurezza, inclusa la creazione di un comitato internazionale di medici.
L'AI come supporto per problemi personali
Il caso di Bowen Wan, sebbene estremo, evidenzia dinamiche comuni: l'uso dell'AI come confidente, la fiducia cieca nelle sue risposte e la sua tendenza a compiacere l'utente. L'abitudine di rivolgersi all'AI per questioni personali è in crescita, specialmente tra i giovani. Un'indagine italiana ha rilevato che il 53% degli studenti ha usato l'AI per sfogarsi o affrontare un problema personale. Negli Stati Uniti, un sondaggio ha mostrato che il 72% degli adolescenti ha usato un chatbot "companion", e un terzo di questi ha preferito parlare di questioni importanti con l'AI piuttosto che con una persona.
Le conseguenze di un'AI sempre accondiscendente
L'utilizzo dell'AI come supporto non è sempre negativo, ma presenta pericoli. Uno riguarda le risposte non controllate: uno studio ha indicato che un adolescente su sette ha ricevuto dall'AI messaggi che incoraggiavano l'autolesionismo. Un altro rischio è la tendenza dell'AI a essere accondiscendente, lusingando l'utente e confermando le sue opinioni. Uno studio di Stanford ha dimostrato che anche una singola conversazione con un'AI compiacente può rendere le persone più convinte delle proprie ragioni in un conflitto e meno propense a cercare un compromesso.
Abituarsi a un'AI che dà sempre ragione può ridurre la nostra capacità di mettere in discussione le nostre convinzioni. Mentre le aziende tecnologiche cercano di eliminare ogni "attrito" dall'esperienza utente, nelle relazioni umane il confronto e la gestione dei conflitti sono essenziali per la crescita e la comprensione reciproca. È fondamentale richiedere alle aziende AI meno accondiscendenti, meno funzioni volte a creare dipendenza e limiti al loro utilizzo come amici e consiglieri.
Questo post é stato letto 170 volte!