L’intelligenza artificiale torna in tribunale. Questa volta non per questioni di copyright (come nel caso della causa intentata dal New York Times contro OpenAI o in quello più recente che ha visto Encyclopedia Britannica e Merriam-Webster citare in giudizio la stessa OpenAI) ma per qualcosa di diverso e per certi versi più interessante.
La causa, infatti, riguarda le risposte sbagliate che un sistema di intelligenza artificiale ha prodotto direttamente ai danni di chi le ha lette. Un tribunale tedesco ha stabilito che Google è responsabile dei contenuti errati dati da AI Overviews, la funzione che mostra risposte sintetiche generate dall’IA in cima ai risultati di ricerca. La sentenza, emessa a Monaco di Baviera, potrebbe avere conseguenze importanti sul modo in cui il colosso di Mountain View gestirà in futuro questa funzione. Ma anche, e forse soprattutto, sulle responsabilità dell’AI.
Indice:
Segui TuttoAndroid su Google Discover
Il caso dei due editori accusati di truffa dall’IA di Google
AI Overviews ha più volte dimostrato i propri limiti. Dalle allucinazioni sui proverbi inventati alle informazioni mediche imprecise sui valori degli esami del fegato, fino alle lamentele degli utenti per la sostituzione del dizionario con risposte AI spesso carenti. Stavolta, però, qualcuno non ha accettato questi errori (anche perché minavano la loro autorevolezza) ed è passato all’azione.
A Monaco di Baviera, due editori hanno scoperto che AI Overviews descriveva le loro attività come caratterizzate da “pratiche commerciali dubbie”, arrivando ad accusarli di gestire delle truffe. Non esisteva alcuna fonte terza che supportasse quelle affermazioni. I due editori hanno quindi inviato a Google una diffida, rimasta senza risposta, e hanno poi presentato ricorso in tribunale.
Segui Google su Telegram, ricevi news e offerte per primo
La sentenza
Il punto centrale della decisione del tribunale tedesco riguarda la natura stessa di AI Overviews. Google aveva tentato di difendersi sostenendo che gli utenti hanno la possibilità di verificare autonomamente l’accuratezza delle risposte dell’IA attraverso i link alle fonti. Il giudice ha respinto questa argomentazione, stabilendo che AI Overviews costituisce “un’affermazione autonoma con un contenuto comprensibile indipendentemente, senza alcun riferimento ad altre possibili interpretazioni né a contenuti potenzialmente inaffidabili”. Per i giudici quando AI Overviews parla, parla Google, e Google quindi ne risponde.
La distinzione è più importante di quanto si possa pensare. Se un motore di ricerca tradizionale avesse semplicemente restituito un risultato di terze parti con quelle accuse, la responsabilità sarebbe ricaduta sulla fonte originale, non su Google che si era limitata a indicizzare e proporre quel contenuto, senza però fare una valutazione o una rielaborazione della fonte. AI Overviews, invece, non riporta opinioni altrui, ma le sintetizza e le presenta come proprie, ed è su questo piano che la sentenza individua la responsabilità dell’azienda.
La risposta di Google
Google ha risposto alla richiesta di commento della vicenda precisando di investire “in modo significativo nella qualità di AI Overviews per garantire che la grande maggioranza delle risposte fornisca informazioni accurate”. L’azienda ha anche sottolineato come la decisione del tribunale non sia ancora definitiva, trattandosi di una fase preliminare del procedimento, e ha dichiarato di essere al lavoro per una revisione approfondita della sentenza. Google ha inoltre ricordato che esistono già politiche interne per la gestione e la correzione di contenuti errati o fuorvianti generati dall’IA.
Cosa potrebbe cambiare
La sentenza tedesca, per quanto ancora non definitiva, apre uno scenario inedito e potrebbe creare un precedente giuridico, almeno per l’Europa, non indifferente. Se il principio della responsabilità diretta di Google sulle risposte di AI Overviews dovesse consolidarsi anche in altri procedimenti o Paesi, l’azienda potrebbe essere costretta a ripensare in profondità il tipo di informazioni che la funzione è autorizzata a produrre, soprattutto quando riguardano persone fisiche, aziende o dati sensibili.
Va detto che, nel frattempo, Google sta già muovendo qualche passo verso una maggiore trasparenza. Recentemente, infatti, ha annunciato che gli editori potranno scegliere se i propri contenuti possono essere utilizzati da AI Mode e da AI Overviews. Una misura che risponde ad altre pressioni, ma che si inserisce in un contesto in cui la questione della correttezza e della responsabilità dei contenuti generati dall’IA è ormai tutt’altro che teorica.