Quanto sono sicuri i chatbot di intelligenza artificiale? È una domanda che ci si pone sempre più spesso (abbiamo già visto come tutti questi strumenti raccolgano dati personali, ma ciascuno in modo diverso) anche per effetto della loro maggiore diffusione. In modo particolare l’attenzione negli ultimi mesi si è concentrata su Gemini, intorno al quale ci sono state una serie crescente di allarmi legati proprio alla sicurezza. Dalle vulnerabilità nel controllo della smart home alle falle che consentono attacchi di phishing tramite e-mail, passando per la relativa facilità con cui è possibile aggirare i limiti etici del modello. Quello che emerge è un assistente AI sempre più potente, ma anche più esposto a rischi che vanno oltre la semplice privacy dei dati. Non è un caso che sempre più persone si domandino se sia davvero sicuro affidarsi a Gemini per le proprie attività quotidiane.
La risposta ovviamente non è netta e va contestualizzata. Surfshark ha condotto un’analisi approfondita proprio per rispondere alle perplessità degli utenti che vogliono capire cosa significhi “sicuro” quando si parla dell’assistente AI di Google.
Indice:
Segui TuttoAndroid su Google Discover
Quanti dati raccoglie Gemini e come li usa
Questo è uno degli elementi più importanti da considerare. Google è stato trasparente nel comunicare che le app che utilizzano Gemini registrano ben 22 diversi tipi di dati sugli utenti, rendendolo uno dei chatbot che raccolgono più informazioni. Questi dati includono le conversazioni, i prompt vocali, le ricerche, i file condivisi, le immagini caricate, le posizioni e anche le informazioni sui contatti e sui calendari.
Per alcuni utenti questo livello di raccolta di dati è considerato eccessivo, soprattutto quando si affidano a Gemini per attività che coinvolgono informazioni sensibili sul lavoro o dati personali delicati. Il problema però non è tanto la raccolta in sé. Google dichiara chiaramente che può utilizzare i dati raccolti per migliorare i suoi prodotti e sistemi di machine learning, a meno che l’utente non disattivi determinati controlli. Quindi sì, i dati sensibili degli utenti potrebbero finire nei dati di addestramento del modello.
Un aspetto che suscita ancora più perplessità riguarda la visibilità della cronologia delle chat. Google specifica nel suo Privacy Hub che i dipendenti dell’azienda possono esaminare parti delle conversazioni nelle app per valutare la sicurezza dei dati e migliorare le tecnologie di machine learning. Anche eliminando la cronologia dell’app, le conversazioni esaminate da esseri umani verranno conservate per un massimo di tre anni. Il controllo degli utenti, quindi, ha un limite ben preciso.
La questione sicurezza
Al di là delle questioni teoriche sulla raccolta dati, negli ultimi mesi sono state scoperte vere e proprie vulnerabilità che mettono in discussione la sicurezza di Gemini. E l’affidabilità di Google. Un esempio riguarda la vulnerabilità agli attacchi di ASCII smuggling, una tecnica che permette di inserire istruzioni nascoste all’interno di e-mail o inviti nel calendario. Quando un utente chiede a Gemini di riassumere il testo, l’IA legge anche i comandi occulti e può agire di conseguenza, generando falsi avvisi di sicurezza o inducendo l’utente a compiere azioni pericolose come cliccare su link dannosi.
Ancora più preoccupante è stata la scoperta di una vulnerabilità che consente attacchi di prompt injection indiretta. Ricercatori dell’Università di Tel Aviv hanno dimostrato come un invito apparentemente innocuo inserito in Google Calendar possa essere utilizzato per ingannare Gemini e fornire accesso completo al controllo della smart home di una persona. Significa che, in teoria, qualcuno potrebbe controllare le luci e i termostati, ma soprattutto accedere alle telecamere di un’abitazione con uno stratagemma sostanzialmente molto semplice.
Oltre alle vulnerabilità tecniche specifiche, esiste un rischio più ampio legato al phishing. Anche se Gemini non implementa tecniche di phishing attivo, gli strumenti di intelligenza artificiale in generale rendono più semplice per i truffatori creare messaggi, e-mail e siti web falsi estremamente convincenti.
Sul piano etico, poi, c’è il tema del cosiddetto pregiudizio algoritmico. Gemini apprende da enormi quantità di dati presenti su internet, che naturalmente contengono bias e stereotipi. Se si chiedono informazioni su determinate professioni, culture o questioni politiche, le risposte potrebbero inavvertitamente basarsi su questi pregiudizi. Google cerca di correggere questo aspetto, ma nessun modello AI è completamente neutrale.
Infine, esiste un problema di trasparenza. Gemini non spiega chiaramente da dove provengano le sue risposte o su quali fonti si basino. Quando si chiede un’analisi o un consiglio, non si sa se la risposta si basa su ricerche accademiche, contenuti provenienti da un blog, conversazioni sui social media o contenuti obsoleti.
Come proteggere i dati quando si usa Gemini: 5 consigli pratici
Al momento, c’è anche un rischio di generare paranoie e ansie esagerate sull’utilizzo dell’intelligenza artificiale. In realtà, come per moltissimi altri strumenti e tecnologie, basta un po’ di buon senso e di senso critico. Non è necessario essere esperti della materia per tutelarsi senza rinunciare all’utilizzo di strumenti che, tanto nel lavoro quanto nella vita privata, possono essere davvero molto utili.
1-Non condividere informazioni personali o sensibili
Un consiglio sempre valido è che nelle conversazioni con Gemini (e con gli altri chatbot AI) è preferibile evitare di scrivere qualsiasi cosa che non si vuole condividere con uno sconosciuto. Quindi password, dati finanziari, numeri di documenti, documenti privati, referti medici o dettagli personali.
2-Controllare le impostazioni della privacy di Google
Controllare le impostazioni della privacy di Google. È necessario accedere ad Account Google, poi alla sezione Dati e privacy, e verificare le voci attive nella sezione Attività che è stata svolta. Particolare attenzione deve essere prestata alle Attività delle app Gemini: disattivare l’opzione è consigliabile se si preferisce che le chat non vengano salvate a lungo termine o utilizzate per addestrare i modelli. È inoltre possibile impostare un periodo di eliminazione automatica (3, 18 o 36 mesi) per le attività.
3-Usare un account Google separato per gli strumenti AI
Creare un secondo account Google dedicato solo a Gemini è un metodo semplice per isolare le interazioni con l’AI dai dati personali, dai contatti e dai file di Google Drive. È possibile persino utilizzare account diversi in profili del browser separati, rendendo così più difficile mescolare accidentalmente informazioni personali e professionali.
4-Trattare i dati sensibili aziendali con cautela
Chi usa Gemini per lavoro dovrebbe considerarlo come un fornitore esterno e non come uno strumento interno sicuro. Nel caso in cui sia necessario utilizzare l’AI con contenuti di lavoro, è opportuno rimuovere prima nomi, indirizzi e-mail e qualsiasi altro dettaglio identificabile, utilizzando versioni anonimizzate dei documenti originali.
5-Verificare sempre le risposte importanti
È fondamentale ricordare che l’AI commette errori e non è sempre aggiornata. Può affermare qualcosa con grande sicurezza e avere comunque torto. Non è consigliabile fare affidamento esclusivamente su Gemini per decisioni di tipo legale, medico o finanziario. L’AI è utile per scrivere bozze iniziali o fare brainstorming, ma i fatti su cui si basano decisioni critiche devono sempre essere verificati su fonti affidabili. Un controllo in più è sicuramente indispensabile.
