L’integrazione di Gemini in Google Chrome sta trasformando il celebre browser in un vero e proprio assistente virtuale. Tra le principali novità, infatti, c’è la disponibilità delle cosiddette funzionalità agentiche, tramite le quali l’AI può svolgere azioni specifiche al posto dell’utente. Un’evoluzione interessante e potenzialmente straordinaria che, come ogni grande cambiamento, porta in dote possibili benefici ma anche diversi rischi. Da questo punto di vista, Google ha ora condiviso la sua visione della sicurezza in Chrome.
Google Chrome ha infatti introdotto una serie di difese multilivello per proteggere gli utenti durante la navigazione agentica. Queste misure si sono rese necessarie perché per la prima volta l’intelligenza artificiale integrata nel browser non si limita a suggerire risposte o testi, ma può agire in autonomia sul web a nome dell’utente. Una delle minacce più insidiose è il cosiddetto prompt injection indiretto, un tipo di manipolazione che può avvenire attraverso contenuti apparentemente innocui, come una recensione o un annuncio pubblicitario. Questi testi, se costruiti in modo subdolo, possono influenzare l’agente AI e spingerlo a compiere azioni non richieste dall’utente, come inviare dati personali o fare acquisti non autorizzati.
Indice:
Segui TuttoAndroid su Google Discover
Le misure introdotte da Google
Per affrontare queste nuove minacce, il team di Google Chrome ha progettato un sistema di difesa a più livelli, che unisce controlli basati su regole fisse e modelli predittivi supportati dall’intelligenza artificiale. L’obiettivo è rendere gli attacchi più complessi e meno convenienti, riducendo al minimo le possibilità che qualcuno riesca a sfruttare le vulnerabilità legate all’automazione dell’agente AI.
User Alignment Critic
Per rafforzare la sicurezza, Google ha introdotto un secondo modello chiamato User Alignment Critic. In pratica, si tratta di una sorta di supervisore digitale che controlla le decisioni dell’agente AI prima che vengano eseguite, assicurandosi che siano davvero utili e sicure per l’utente. Questo componente lavora in modo isolato e prende in esame solo informazioni generali sulle azioni pianificate, evitando qualsiasi contatto diretto con contenuti web potenzialmente pericolosi. Il suo compito è valutare se le azioni proposte siano effettivamente in linea con gli obiettivi dichiarati dall’utente. In caso contrario, può bloccarle e chiedere al sistema di riformulare il piano.
Agent Origin Sets
A questa protezione si affianca una limitazione tecnica sulle interazioni dell’agente con i siti web. Con il sistema denominato Agent Origin Sets, Chrome impone regole precise su quali origini possono essere consultate o modificate. In pratica, ogni sito viene classificato in base alla sua rilevanza rispetto al compito da svolgere. L’agente può leggere informazioni solo da fonti considerate pertinenti e agire attivamente, per esempio cliccando o compilando campi, solo su pagine specificamente autorizzate. Se il sistema rileva che una nuova origine proposta non ha legami con l’attività in corso, l’accesso viene negato. Questo approccio serve a impedire che un agente possa muoversi liberamente sul web, aggirando le protezioni che normalmente limitano l’accesso ai dati sensibili.
Il ruolo degli utenti
Google ha previsto anche un ruolo attivo per l’utente nel controllo dell’agente AI. Ogni volta che l’intelligenza artificiale si prepara a compiere un’azione delicata, come accedere a un conto bancario, effettuare un acquisto online o utilizzare credenziali salvate, Google Chrome blocca l’operazione e chiede conferma all’utente. I dati custoditi nel Password Manager di Google, per esempio, restano fuori dalla portata dell’agente. In aggiunta, l’intero processo viene tracciato in un registro visibile all’utente, che può in qualsiasi momento interrompere o prendere il controllo delle attività.
Il sistema di analisi automatica
Per individuare in tempo reale tentativi di manipolazione, Chrome integra anche un sistema di analisi automatica capace di riconoscere contenuti progettati appositamente per indurre l’agente a comportamenti scorretti. Questo strumento lavora in parallelo al modello principale e blocca l’esecuzione di azioni basate su contenuti riconosciuti come ingannevoli. Anche se non è in grado di intercettare ogni minaccia, rappresenta un ulteriore livello di protezione all’interno di una strategia più ampia.
La tenuta di questo sistema viene costantemente messa alla prova con simulazioni avanzate. Google ha sviluppato un processo di red-teaming (una tecnica usata in ambito cybersecurity per testare l’efficacia delle difese di un sistema informatico) che sfrutta anche modelli di intelligenza artificiale per generare attacchi realistici. Le simulazioni si concentrano in particolare su scenari ad alta esposizione, come i social network o la pubblicità online, e servono a testare la resistenza del sistema in condizioni reali. In questo modo ogni volta che viene individuata una falla, Chrome può correggerla rapidamente attraverso gli aggiornamenti automatici, senza bisogno di interventi da parte dell’utente.
Segui Google su Telegram, ricevi news e offerte per primo
Il programma di ricompense
Infine, Google ha aggiornato il proprio programma di ricompense per chi scopre nuove vulnerabilità, includendo anche le nuove funzionalità agentiche. I ricercatori che individuano falle significative nel comportamento dell’agente possono ricevere fino a ventimila dollari (circa 18.000€), mostrando come per il colosso di Mountain View sia elevato l’interesse per la sicurezza di chi utilizza Chrome e la disponibilità a collaborare con la comunità degli utenti.