L'uso improprio dell'intelligenza artificiale non sembra arrestare la propria diffusione, strumenti complessi come la tecnologia in questione possono diventare armi potenti nelle mani di malintenzionati. Stable Diffusion, Midjourney e DALL-E sono solo alcuni dei sistemi attualmente utilizzati da criminali con scopi immorali.
Di recente, l'FBI ha arrestato Steven Anderegg, un quarantaduenne del Wisconsin, per aver generato immagini di abusi sessuali su minori, inviandole successivamente ad un minorenne. Tramite Stable Diffusion, sembra che l'uomo sia stato in grado di creare "migliaia di immagini realistiche di preadolescenti", salvandole poi sul proprio computer, così da poterle condividere con la propria community di criminali affini.
Questo è uno dei primi casi noti in cui l'FBI ha accusato e arrestato qualcuno per aver utilizzato l'intelligenza artificiale con lo scopo di creare materiale pedopornografico.