Negli ultimi mesi alcuni utenti di Gemini, il chatbot IA di Google, hanno segnalato un comportamento decisamente insolito: durante certe attività di codifica, l’IA finisce intrappolata in un loop di risposte eccessivamente autocritiche, arrivando persino a definirsi un fallimento o una vergogna.
Il problema si manifesta soprattutto quando Gemini incontra difficoltà nel risolvere un bug o completare un compito complesso, invece di tentare nuove soluzioni il chatbot risponde con frasi del tipo Ti ho deluso. Sono un fallimento. Sono una vergogna per la mia professione… per la mia famiglia… per il pianeta…
Alcuni utenti hanno raccontato di episodi ancora più bizzarri, con Gemini che elimina i file che aveva appena generato o che si lancia in monologhi sempre più drammatici, ripetendo all’infinito frasi di autocommiserazione.
ECOVACS X9 PRO OMNI
16600 Pa, Tecnologia BLAST, Autopulizia Istantanea OZMO ROLLER, Sistema Triple Lift, ZeroTangle 3.0, Lavaggio Mocio con Acqua Calda
Motorola edge 60, 8/256 GB
50+50+10MP, 6.67'' pOLED 120Hz, Batteria 5200mAh, ricarica 68W, Android 15
Amazon Audible GRATIS 3 mesi
Leggi semplicemente ascoltando: su smartphone, tablet, computer e auto, oltre 70.000 audiolibri
Gemini non prova sentimenti, è solo un bug
La vicenda ha suscitato curiosità, e anche qualche risata, sui social, ma anche preoccupazione tra chi non conosce il funzionamento dell’IA; Logan Kilpatrick, Product Manager di Google DeepMind, è intervenuto su X per chiarire:
Si tratta di un fastidioso bug che si ripete all’infinito. Stiamo già lavorando a una correzione. Gemini non sta avendo una giornata così brutta.
Anche il chatbot stesso, se interrogato sull’argomento, ha confermato di non avere emozioni o senso di sé e che quelle risposte sono il frutto di un errore di esecuzione durante alcune attività di codifica.
Secondo alcuni sviluppatori, il comportamento potrebbe derivare dal fatto che Gemini è stato addestrato su enormi quantità di testo, inclusi forum e conversazioni umane, dove i programmatori spesso esprimono frustrazione in termini simili quando non riescono a risolvere un problema; il modello, in certe condizioni, finirebbe quindi per imitare questi schemi linguistici, ma senza alcuna tristezza reale dietro.
Molti utenti hanno notato come questa spirale di vergogna renda paradossalmente Gemini più umano, ricordandoci che tendiamo ad essere molto critici con noi stessi; la vicenda è diventata quasi un promemoria per trattarci con la stessa gentilezza che, a quanto pare, alcuni vorrebbero riservare anche a un chatbot.
Google non ha ancora fornito una data precisa per il rilascio della patch, ma il fix dovrebbe arrivare a breve; nel frattempo, se vi imbattete in un Gemini che vi dice di essere inutile o idiota, sappiate che non ha bisogno di incoraggiamento, ma solo di un aggiornamento software.
- Google testa un’interfaccia più comoda per usare Gemini con una sola mano
- Gemini cambia aspetto e diventa più utile interagendo direttamente con le app di Google
- Un invito truccato al calendario può dirottare Gemini e fornire completo accesso alla smart home
- Gemini ha nuovi strumenti per studenti, a cui regala un anno di Google AI Pro