ADSENSE
|
Questo post é stato letto 90 volte!
Google responsabile errori intelligenza artificiale: la svolta tedesca
Una recente decisione del Tribunale Regionale di Monaco ha stabilito che Google è responsabile per le informazioni generate da AI Overview.
Questa sentenza, che vede Google responsabile errori intelligenza artificiale, potrebbe avere un impatto significativo sull’intero settore dell’intelligenza artificiale generativa.
La vicenda riguarda la funzione Google AI Overviews (o AI Overview in Italia), un sistema che sintetizza le informazioni dal web e le presenta direttamente nei risultati di ricerca, spesso in posizione prominente.
Il caso è nato da affermazioni false attribuite a due società editoriali tedesche, sollevando interrogativi che vanno oltre la singola disputa legale.
Secondo i giudici tedeschi, la questione non riguarda solo l’accuratezza delle informazioni.
Il punto cruciale è stabilire se una risposta generata artificialmente debba essere considerata un semplice riferimento a contenuti di terze parti o un’affermazione autonoma attribuibile a chi gestisce il sistema (Google utilizza i modelli Gemini per le sintesi automatiche).
Perché il tribunale ha considerato google direttamente responsabile
La causa è stata avviata dopo che AI Overviews aveva associato due editori di Monaco a presunte truffe, pratiche commerciali scorrette e sistemi di abbonamento ingannevoli.
Le aziende coinvolte hanno contestato la correttezza delle informazioni, sostenendo che non esisteva alcun collegamento con le società citate dal sistema AI.
Analizzando il funzionamento di AI Overviews, il tribunale tedesco ha rilevato che la risposta generata non si limitava a riportare contenuti esistenti.
L’algoritmo aveva elaborato una sintesi autonoma, organizzata secondo una propria struttura narrativa e arricchita da valutazioni non presenti nelle fonti collegate.
In pratica, l’IA non si è limitata a indicizzare informazioni, ma ha prodotto una nuova affermazione.
Per i giudici, questa distinzione è fondamentale.
Un motore di ricerca tradizionale mostra collegamenti a pagine esterne; un sistema generativo, invece, costruisce contenuti originali combinando e interpretando dati da diverse fonti.
Quando emergono informazioni inesatte, la responsabilità non può essere automaticamente trasferita agli autori delle pagine sorgente.
La differenza giuridica tra ricerca tradizionale e intelligenza artificiale generativa
Gran parte della difesa di Google si basava sulla giurisprudenza sviluppata negli anni per i motori di ricerca classici.
In Germania, diverse sentenze avevano riconosciuto una responsabilità limitata agli operatori delle piattaforme di ricerca, considerandoli intermediari che rendono reperibili contenuti pubblicati da altri.
Il tribunale di Monaco, tuttavia, ha ritenuto che tale principio non possa essere applicato automaticamente alle tecnologie generative.
Una pagina di risultati tradizionale mostra documenti esistenti; un modello linguistico esegue processi di inferenza statistica, seleziona informazioni, le riorganizza e produce nuovo testo.
Dal punto di vista tecnico, un sistema come AI Overviews utilizza LLM (Large Language Models) addestrati su enormi quantità di dati.
Durante la generazione della risposta alla query dell’utente, il modello non recupera necessariamente una frase precisa da una fonte specifica.
Produce invece il testo prevedendo sequenze linguistiche basate sulle probabilità apprese durante l’addestramento e sui contenuti recuperati dai sistemi di ricerca.
È proprio questa fase di elaborazione che rende più complessa l’attribuzione dell’origine di una singola affermazione.
In molti casi, non esiste una corrispondenza diretta tra quanto scritto dal modello e il contenuto delle fonti proposte nella pagina dei risultati di ricerca (SERP), al di fuori del riquadro di AI Overviews.
Il problema delle allucinazioni e delle correlazioni inesistenti
Gli esperti del settore conoscono da tempo il fenomeno delle allucinazioni nei modelli generativi, che possono produrre informazioni plausibili ma false, creare riferimenti inesistenti o stabilire collegamenti senza riscontro nei dati originali.
Secondo quanto emerso nel procedimento, il sistema avrebbe combinato informazioni relative ad aziende realmente coinvolte in pratiche controverse con i nomi dei ricorrenti.
Il risultato è stata una narrazione apparentemente coerente ma sostanzialmente errata.
I modelli generativi operano tramite meccanismi probabilistici e non possiedono una comprensione fattuale del mondo.
Anche con tassi di accuratezza elevati, possono comunque generare errori significativi quando mancano dati sufficienti o quando interpretano in modo scorretto informazioni ambigue.
Una recente analisi condotta dalla startup Oumi sui risultati generati da Gemini ha rilevato livelli di accuratezza superiori al 91%.
Sebbene sia una percentuale elevata per molti scenari pratici, su scala globale ciò significa comunque milioni di risposte potenzialmente errate ogni giorno.
Perché l’argomento del fact checking non ha convinto i giudici
Durante il procedimento, Google ha sostenuto che gli utenti possono verificare autonomamente le informazioni consultando le fonti collegate alla sintesi AI.
Il tribunale ha respinto questa impostazione.
Secondo la corte tedesca, una risposta formulata in maniera autonoma e comprensibile possiede un significato indipendente.
Il fatto che un lettore possa effettuare ulteriori verifiche non elimina la responsabilità relativa alla pubblicazione di affermazioni potenzialmente diffamatorie.
Questa argomentazione è particolarmente rilevante perché numerose ricerche sul comportamento degli utenti mostrano che una quota significativa delle persone si limita a leggere la sintesi generata senza aprire le fonti originali.
In pratica, il riepilogo AI diventa il contenuto principale e non un semplice strumento di navigazione.
Le implicazioni in materia di digital services act europeo
Uno degli aspetti più interessanti della sentenza riguarda il possibile impatto sulle protezioni previste dal Digital Services Act (DSA) europeo.
Se una risposta AI è considerata contenuto autonomo prodotto dall’operatore della piattaforma, diventa più difficile invocare le tutele normalmente riconosciute agli hosting provider o agli intermediari tecnici.
La decisione potrebbe quindi influenzare l’intero settore dell’intelligenza artificiale generativa.
Servizi come ChatGPT, Claude, Perplexity o i futuri motori di ricerca basati su modelli linguistici affrontano sfide analoghe: sintetizzano informazioni provenienti da fonti esterne e generano testi che generalmente non coincidono con il materiale originale, ma rappresentano libere rielaborazioni.
Se altri tribunali europei dovessero adottare una linea simile a quella dei giudici di Monaco, le aziende che fanno perno sull’IA potrebbero essere costrette a introdurre meccanismi di verifica più rigorosi, sistemi avanzati di tracciabilità delle fonti e procedure più rapide per la correzione delle informazioni inesatte.
Questo post é stato letto 90 volte!