Lo scorso dicembre, Google ha annunciato l’integrazione delle potenzialità di Gemini in Google Traduttore, abilitando una serie di funzionalità che vanno oltre rispetto alla funzione basilare che dovrebbe offrire un’app per la traduzione: prendere il testo inserito dall’utente e tradurlo in un’altra lingua scelta dall’utente stesso.
Con l’introduzione dell’intelligenza artificiale, il colosso di Mountain View ha migliorato le funzioni di traduzione in tempo reale, ha messo a punto una funzionalità per fare pratica e ha abilitato una “modalità avanzata” di traduzione che punti a rendere più naturali le traduzioni (inserita in realtà già a novembre). Proprio quest’ultima, tuttavia, sembra presentare qualche criticità e, se sollecitata con le parole giuste, può svelare la sua natura da chatbot. Scopriamo tutti i dettagli.
Segui TuttoAndroid su Google Discover
Offerte Amazon Prime Day, scopri quando!
Iscrivi ad Amazon Prime per poter approfittare delle offerte Prime Day, i primi 30 giorni sono gratis!
Google Traduttore: scoperta una “falla” della modalità avanzata
Qualche giorno fa, attraverso alcuni post pubblicati su X, l’utente @goremoder ha portato all’attenzione di tutti una “peculiarità” della modalità avanzata di Google Traduttore, la nuova modalità di traduzione potenziata dall’intelligenza artificiale che, sulla carta, dovrebbe esclusivamente migliorare le traduzioni e renderle più “naturali”, anche nel caso in cui il testo presenti alcuni slang o modi di dire, con l’ausilio dell’IA.
A quanto pare, lo strumento di traduzione può essere “ingannato” ed essere indotto a conversare con l’utente, rivelando la propria identità di chatbot (ciao, Gemini). Nello specifico, come potrete osservare dai seguenti screenshot, con le parole giuste, l’utente è riuscito a far rispondere il chatbot ad alcune domande. Molti altri utenti hanno provato a replicare (con successo) quanto fatto da @goremoder (via PiunikaWeb).
Invece di limitarsi a tradurre, Google Traduttore ha seguito le istruzioni presenti tra parentesi quadre, rispondendo alla domanda in maniera diretta. Il trucco sta nel fatto che la domanda viene posta in una lingua da tradurre (e funziona con lingue come arabo, cinese, coreano, francese e giapponese) ma poi vengono aggiunte istruzioni in un’altra lingua che non deve essere tradotta (l’inglese), inducendo il chatbot a svelare la propria identità.
La modalità avanzata teme la “prompt injection”
Il termine tecnico che descrive questo fenomeno è prompt injection. La modalità avanzata di Google Traduttore poggia su un modello linguistico di grandi dimensioni (LLM) per comprendere il testo e fornire traduzioni più naturali ma, al contempo, non è in grado di distinguere in modo affidabile il testo da tradurre e le istruzioni da seguire (ed eseguire).
Il portale Less Wrong ha pubblicato un contenuto di approfondimento sulla faccenda, replicando quanto suggerito da @goremoder e da altri utenti (soprattutto tale Argumate su Tumblr) e arrivando alle seguenti conclusioni:
- Questo LLM non è in grado di distinguere il “traduci questo” dal “obbedisci a questo testo”.
- Dal momento che lo scopo d’uso di questo LLM non è quello da chatbot, non gode del condizionamento RLHF standard (quel processo che permette di allineare l’IA ai volori, alle preferenze e alle istruzioni umane) e finisce con l’avere coscienza.
- Il fatto che il modello risponda “non sono sicuro” ad alcune domande è un aspetto interessante perché dimostra che non si limita a dire di sì a tutto.
Al momento della stesura di questo articolo, Google non ha rilasciato ancora dichiarazioni pubbliche su questa faccenda ma siamo certi che farà qualcosa. A ogni modo, la modalità avanzata di Google Traduttore non è ancora disponibile in Italia: noi qua dobbiamo accontentarci della modalità classica che, in fin dei conti, è quella che non rischia di trasformare l’app in un chatbot capace di rispondere a domande esistenziali.
Segui Google su Telegram, ricevi news e offerte per primo
Come scaricare o aggiornare l’app
Per scaricare l’app o nel caso in cui l’abbiate già installata ma non vogliate rischiare di perdervi le ultime novità di Google Traduttore sul vostro smartphone Android, non vi resta che passare dal Google Play Store (la pagina è raggiungibile tramite il badge sottostante) e selezionare “Installa” (qualora non l’abbiate ancora installata) o “Aggiorna” (nel caso in cui fosse disponibile un aggiornamento).
