Negli ultimi tempi l’intelligenza artificiale ha fatto enormi progressi, e viene sempre di più utilizzata in vari ambiti. Purtroppo, si sta diffondendo sempre di più anche il problema delle immagini di nudo generate con IA: un report recente ha rivelato che, nonostante gli accorgimenti adottati da Google ed Apple, Play Store e App Store ospitano diverse app di questo genere.
Segui TuttoAndroid su Google Discover
Play Store e App Store con app di nudo AI: arriva la risposta di Google
Google ed Apple sono al lavoro ogni giorno per contrastare le app “nudify”, in grado di partire da immagini reali per generare foto di nudo sfruttando l’intelligenza artificiale. Secondo quanto riferito da Tech Transparency Project (TTP), Google ed Apple hanno sì delle regole contro le app di questo genere, ma in realtà starebbero “indirizzando” gli utenti verso di esse attraverso i loro sistemi di ricerca e pubblicità su Play Store e App Store.
Entrambe i colosso tech vietano le app che creano contenuti sessuali non consensuali, e le linee guida dell’App Store di Apple e le norme Google Play limitano chiaramente le app che promuovono lo sfruttamento o l’abuso. Le app che creano queste immagini di nudo rientrano in queste categorie, visto che spesso necessitano della foto di qualcuno per creare immagini esplicite senza il suo consenso.
Nonostante questo, TTP ha scoperto che cercando termini con “nudify” o “undress” su Play Store e App Store si possono trovare decine di applicazioni del genere: in più, gli store pubblicizzano questi strumenti e li suggeriscono attraverso il completamento automatico. Addirittura, pare che alcune di queste risultino pure con classificazione “per tutti”, senza limiti di età. Gli utenti caricano una foto, e le app utilizzano modelli di intelligenza artificiale generativa per far apparire il soggetto in una versione nuda.
Dopo la pubblicazione della notizia, Google ha deciso di rilasciare una dichiarazione ai colleghi di Android Authority:
“Google Play non consente app che contengono contenuti sessualmente espliciti. Quando ci vengono segnalate violazioni delle nostre norme, indaghiamo e adottiamo i provvedimenti del caso. Molte delle app citate in questo rapporto sono state sospese da Google Play per violazione delle nostre norme. Il nostro processo di indagine e di applicazione delle norme è tuttora in corso“.
A quanto pare dunque la casa di Mountain View ha preso provvedimenti e sta proseguendo con le sue indagini. Secondo quanto riportato da Bloomberg, anche Apple ha risposto di aver rimosso diverse applicazioni incriminate.