C'è un problema con l'APP AI per ritratti: Può spogliare le persone senza il loro consenso.

"Lensa ha generato nudes dalle mie foto d'infanzia."

Tramite l'applicazione "Magic Avatars" di Lensa si ha la possibilità di creare immagini fantastiche partendo da fotografie personali - rischiando però che l'AI prenda vie non troppo apprezzate. A seguito di sviluppi riguardanti la produzione di materiale NSFW senza che fosse nell'interesse originale dell'utente, alcuni individui hanno testato la produzione di immagini pornografiche attraverso Lensa.

Per quanto l'app abbia una politica "no-nudes", l'Intelligenza Artificiale che lavora nel background non ha molto chiara questa specificazione, in quanto basta fornirle un'immagine modificata come possibile tramite photoshop per ottenere in cambio una fotografia verosimile del soggetto.

Le eventuali ripercussioni di questa scoperta sono preoccupanti, in quanto la produzione di materiale pedopornografico, o cambiando ambito, di disinformazione politica può finire nelle mani di chiunque sappia utilizzare l'algoritmo del servizio.