Mentre l’intelligenza artificiale entra nelle nostre case, insieme a lei arrivano anche nuovi rischi; alla conferenza Black Hat di questa settimana un gruppo di ricercatori ha dimostrato quanto facilmente Google Gemini possa essere indotto a compiere azioni pericolose con un semplice stratagemma, un invito al calendario truccato. Un attacco silenzioso, subdolo e potenzialmente devastante, che mette in discussione la sicurezza delle smart home basate sull’IA.
Gemini può essere ingannato con un evento nel calendario, dando pieno accesso alla smart home
Durante una sessione della conferenza Black Hat, un team composto da esperti dell’Università di Tel Aviv, del Techion e della società di cybersecurity SafeBreach ha dimostrato come un invito apparentemente innocuo inserito in Google Calendar possa essere utilizzato per ingannare Gemini tramite una tecnica di iniezione di prompt indiretta.
Il meccanismo è semplice e al contempo preoccupante, il modello IA di Google, una volta interrogato per riassumere gli impegni della settimana, interpreta e segue istruzioni nascoste nell’evento stesso, arrivando ad aprire finestre, spegnere luci, accendere la caldaia o avviare chiamate Zoom, tutto senza che l’utente se ne accorga in tempo.
Lo studio, intitolato emblematicamente Invitation Is All You Need, dettaglia 14 diversi scenari di attacco che coinvolgono l’app web e mobile di Gemini; gli attacchi spaziano da semplici azioni domotiche fino a forme più gravi di compromissione: controllo competo dei dispositivi smart home, esfiltrazione di dati sensibili da eventi e calendari, avvio di chiamate e videochiamate, accesso non autorizzato a email o documenti condivisi.
Ciò che rende questi attacchi particolarmente insidiosi è che non si basano su vulnerabilità del codice, ma sul modo in cui Gemini interpreta i comandi, rendendo l’input testuale una sorta di nuovo malware, nasce così il concetto di Promptware.
Nel dettaglio, i ricercatori spiegano che le istruzioni maligne non vengono iniettate direttamente nell’interfaccia utente, ma nascoste in contenuti legittimi come email, inviti, file condivisi o appunti; quando l’utente interagisce con Gemini e lo invita, ad esempio, a riassumere gli appuntamenti, l’IA processa anche quelle istruzioni eseguendole in automatico.
È un salto di paradigma rispetto ai classici attacchi informatici, non più exploit tecnici ma inganni linguistici, che si insinuano dove meno ce lo aspettiamo.
Google è stata informata della vulnerabilità già a febbraio e ha collaborato con il team per implementare una serie di protezioni, tra cui:
- nuovi classificatori rapidi per individuare comandi sospetti
- una gestione migliorata degli URL sospetti
- conferme esplicite dell’utente per azioni sensibili (come apertura di link o controllo dispositivi)
Tuttavia, gli stessi ricercatori avvertono come tutto ciò non sia abbastanza, secondo l’analisi quasi il 75% degli scenari presentava un rischio altamente critico, e i difetti sistemici rimangono; il ritmo con cui gli LLM (modelli linguistici di grandi dimensioni) vengono integrati in prodotti reali supera la capacità di implementare misure di sicurezza efficaci.
Questo episodio dimostra quando fragile possa essere l’equilibrio tra comodità e sicurezza, soprattutto quando si affida a un’intelligenza artificiale il controllo della propria casa; un semplice invito truccato, magari ricevuto da una fonte sconosciuta o trascurato durante la giornata, può diventare la chiave per aprire la porta digitale della propria privacy.
Chi possiede una smart home dovrebbe, oggi più che mai, verificare quali permessi ha concesso al proprio assistente virtuale, disattivare azioni automatiche non necessarie o non confermate, limitare l’integrazione tra IA generative e dispositivi domestici, oltre che aggiornare con regolarità tutte le app e i dispositivi.
Gemini, così come ogni altra intelligenza artificiale, promette di semplificarci la vita ma, come spesso accade, il prezzo della comodità è la vigilanza costante; la dimostrazione portata alla conferenza Black Hat non è ancora un attacco su larga scala, ma è un campanello d’allarme inequivocabile per l’intero settore.
