La scorsa settimana, Google ha esteso la disponibilità del modello 2.0 Flash con supporto all’output delle immagini native di Gemini a tutti gli sviluppatori.
Nelle ultime ore è emersa la “potenza” di questo strumento che si sta rivelando essere tremendamente bravo a rimuovere le filigrane dalle immagini pubblicate dai vari portali di immagini “stock”. Ciò potrebbe costituire un grosso problema.
L’output delle immagini native di Gemini è uno strumento molto potente (ma pericoloso)
Negli ultimi giorni sono emerse in rete tante segnalazioni riguardo la potenza del modello 2.0 Flash di Gemini nella sua iterazione integrata in Google AI Studio, ovvero quella che ha recentemente esteso a tutti gli sviluppatori il supporto all’output delle immagini native, funzionalità multi-modale di intelligenza artificiale che permette a Gemini di ricevere in input immagini per poterle modificare.
Queste segnalazioni (alcune sono state raccolte da un utente su Reddit) evidenziano come lo strumento sia stato in grado di rimuovere con facilità e in maniera (quasi) perfetta le filigrane che coprivano alcune immagini stock (di portali quali Natezeman.com, Shutterstock e iStock) e ripristinare il contenuto precedentemente coperto dalla filigrana. Lo strumento, una volta rimossa la “vecchia” filigrana, la sostituirà con una filigrana apposita (“modificato con IA”).
La cosa preoccupante è che questo strumento, rispetto alla versione “completa” di Gemini, non sembra avere limitazioni e può perfino aggiungere alle foto persone reali.
Stando a una segnalazione su X, un utente ha chiesto a Gemini (su Google AI Studio) di aggiungere Elon Musk a una foto della sua scrivania e il risultato è sorprendente.
Fortunatamente, come abbiamo già avuto modo di scrivere, questo nuovo (e potentissimo) strumento di Gemini è attualmente disponibile solo all’interno di Google AI Studio (che viene utilizzato principalmente dagli sviluppatori) e non è ampiamente disponibile per il pubblico, dato che è etichettato come “sperimentale”.
Immaginiamo che in futuro, specie nel caso in cui esso sia in odor di rilascio a un pubblico più ampio, Google possa implementare sistemi di protezione (come l’impossibilità di rimuovere le filigrane o di aggiungere persone reali alle foto) per limitare le capacità dello strumento.
Aggiornamento del 18/03/25 alle ore 11:20 – Di seguito condividiamo una dichiarazione ufficiale rilasciata da un portavoce di Google in merito a questa situazione:
“L’utilizzo degli strumenti di AI generativa di Google per commettere infrazioni in materia di copyright costituisce una violazione dei nostri termini di servizio. Come per tutti i rilasci sperimentali, stiamo monitorando attentamente e raccogliendo il feedback degli sviluppatori“.