Apple odstranil z App Store AI aplikace, které vytvářely snímky nahých lidí, což je krok, který ukazuje, že Apple je nyní ochotnější řešit kategorii nebezpečných AI aplikací. Schopnosti generativní umělé inteligence vytvářet obrázky na základě výzev se staly velmi užitečným nástrojem ve fotografii a designu.
Technologie však byla také zneužita při vytváření padělků – a nekonsensuální pornografie. .Ve zprávě 404 Media byl Apple informován o řadě aplikací pro generování obrázků AI dostupných v App Store. Konkrétně se jednalo o aplikace, které byly prodávány jako schopné vytvářet nekonsensuální obrázky nahých postav. Aplikace nabízely funkce, jako je výměna obličejů na obrázcích. Jiné byly prodávány jako aplikace, které prakticky svlékaly oblečení z lidí na jinak neškodných fotografiích. Poté, co byl Apple upozorněn na aplikace a související reklamu, odstranil tři z nich z App Store. Google podobně odstranil aplikace z Google Play. Odstranění aplikací z App Store je dobrá zpráva, ale s některými přetrvávajícími problémy.
Pro začátek se Applu nepodařilo zakázat aplikace v rámci procesu kontroly, ale místo toho musel být na jejich existenci upozorněn třetími stranami. I tak jde o krok vpřed oproti předchozím pokusům publikace bojovat s aplikacemi. Zpráva z roku 2022 uvádí, že na stránkách App Store se aplikace zpočátku jevily jako nevinné. Nicméně, funkce byly inzerovány na porno stránkách. V té době na ně byly upozorněny Apple a Google, ale odmítly aplikace odebrat. Místo toho bylo společnostem řečeno, aby přestaly zobrazovat reklamy na webech pro dospělé, a aplikacím bylo povoleno zůstat v App Store. Navzdory příkazu jedna z aplikací pokračovala v marketingu svých funkcí až do roku 2024, kdy byla stažena z Google Play. Nyní se Apple rozhodl je definitivně odstranit.
