Un recente report realizzato da Google ha sollevato il velo su una pratica controversa: il tentativo di replicare l’intelligenza artificiale di Gemini attraverso un bombardamento massiccio di richieste.

Secondo quanto emerso dall’ultima analisi del Threat Intelligence Group dell’azienda di Mountain View, infatti, alcuni utenti avrebbero sottoposto il chatbot a oltre 100.000 interrogazioni nel tentativo di carpirne i segreti operativi e riprodurne le capacità di ragionamento. Ma come è andata a finire?

Segui TuttoAndroid su Google Discover

Le domande possono diventare uno strumento di copia

La pratica identificata da Google rientra in quella che gli esperti definiscono distillazione, un metodo che sfrutta l’interrogazione ripetuta e sistematica di un modello di intelligenza artificiale per studiarne le risposte e utilizzare questi dati per addestrare un sistema concorrente.

A differenza delle violazioni informatiche tradizionali, in questo caso gli aggressori non hanno forzato alcun sistema di sicurezza: hanno semplicemente utilizzato l’accesso legittimo alle API, sfruttando una zona grigia che pone interrogativi sul confine tra utilizzo normale e appropriazione indebita.

Google ha chiarito la propria posizione definendo queste attività come una violazione dei termini di servizio e, sostanzialmente, come un furto di proprietà intellettuale. L’azienda sottolinea come, nonostante l’assenza di intrusioni tecniche, l’obiettivo finale di questi tentativi rimane quello di impossessarsi del valore commerciale e tecnologico incorporato in Gemini, frutto di anni di ricerca e investimenti.

Un attacco alle capacità di ragionamento del modello

Particolarmente significativa è stata la campagna che ha preso di mira direttamente le abilità di ragionamento di Gemini. Normalmente, infatti, il chatbot non espone completamente il proprio processo di pensiero interno, mantenendo riservati i passaggi logici che lo conducono alle risposte fornite agli utenti. Alcuni utenti hanno però cercato di aggirare questa limitazione, al fine di indurre il sistema a rivelare dettagli più approfonditi sui propri meccanismi di ragionamento.

La scala dell’operazione suggerisce dunque un tentativo di replicare non solo le risposte superficiali di Gemini, ma anche la sua capacità di elaborare ragionamenti complessi attraverso diversi compiti e persino in lingue diverse dall’inglese. La quantità particolarmente imponente di prompt inviati indica uno sforzo coordinato e prolungato, verosimilmente supportato da risorse significative e da una strategia ben pianificata.

Fortunatamente per Google, i sistemi di monitoraggio dell’azienda hanno rilevato l’attività anomala in tempo reale, permettendo di intervenire rapidamente con il blocco degli account associati agli attacchi e con il rafforzamento delle protezioni per impedire che dettagli sul ragionamento interno del modello potessero essere estratti attraverso tecniche simili in futuro.

Chi c’è dietro i tentativi di clonazione?

Sebbene Google abbia scelto di non fare nomi, l’azienda ha indicato che la maggior parte dei tentativi di estrazione sembra provenire da società private e ricercatori in cerca di un vantaggio competitivo. Una rivelazione che apre uno scenario particolarmente preoccupante per l’industria dell’intelligenza artificiale: man mano che sempre più imprese sviluppano sistemi personalizzati addestrati su dati sensibili, i tentativi di clonazione come questo potrebbero moltiplicarsi.

Non è un caso che John Hultquist, analista capo del Threat Intelligence Group di Google, si sia espresso sulla situazione evidenziando come il fenomeno non sia limitato a Gemini. Con l’espansione dell’adozione di sistemi AI personalizzati nel settore privato, il rischio che altre aziende subiscano attacchi analoghi è concreto e crescente, e la facilità con cui si può accedere ai modelli attraverso API pubbliche, combinata con il valore commerciale di queste tecnologie, crea un terreno fertile per questo tipo di attività illecite.

Gemini ha subito anche altri abusi

Il report di Google non si è soffermato sui soli tentativi di estrazione del modello, ma ha anche evidenziato altre forme di utilizzo improprio della piattaforma.

Tra queste spiccano i tentativi condotti da utenti malintenzionati con campagne di phishing assistite dall’intelligenza artificiale, che sfruttano le capacità linguistiche di Gemini per creare messaggi ingannevoli più convincenti e personalizzati. Ancora più preoccupante è l’emergere di malware progettati per chiamare direttamente le API di Gemini allo scopo di generare del codice malevolo.

In tutti questi casi, Google ha reagito disabilitando gli account coinvolti e aggiornando le misure di sicurezza per limitare le possibilità di abuso futuro. Tuttavia, la varietà e il livello di innovazione di questi attacchi sottolineano la complessità della sfida che le aziende tecnologiche devono affrontare nel proteggere le proprie creazioni nel campo dell’intelligenza artificiale.