Apple zpřísňuje pravidla pro aplikace v App Storu, aby zabránil šíření intimních snímků vytvořených umělou inteligencí bez souhlasu dotčených osob. Nově budou muset vývojáři aktivně předcházet vzniku a šíření takového obsahu a odstraňovat jej ze svých platforem.
Pokud tak neučiní, riskují odstranění aplikace z App Storu, případně i další postihy ze strany Applu. Změna se týká především takzvaných deepfake snímků, které pomocí umělé inteligence vytvářejí falešné nahé nebo sexuálně explicitní fotografie skutečných lidí. Apple tím reaguje na rostoucí problémy spojené se zneužíváním generativní AI a současně zpřesňuje pravidla, podle kterých posuzuje aplikace nabízené uživatelům iPhonů a dalších zařízení. Sexuálně explicitní obsah byl v App Storu zakázán již dříve. Aktualizovaná pravidla však nově výslovně zahrnují také obsah vytvořený umělou inteligencí bez souhlasu osob, které zobrazují.
Apple upravil pravidlo 1.2, které se týká závadného obsahu. Nově se výslovně zaměřuje také na aplikace pro vytváření obsahu pomocí AI. Vývojáři tak nemohou pouze spoléhat na to, že uživatelé nebudou jejich nástroje zneužívat. Musí přijmout opatření, která pomohou takovému obsahu předcházet a zajistí jeho odstranění, pokud se na platformě objeví. Pokud aplikace nebude pravidla dodržovat, Apple ji může z nabídky App Storu odstranit. Společnost tím dává najevo, že odpovědnost za zneužívání generativní umělé inteligence se netýká pouze samotných uživatelů, ale také provozovatelů nástrojů, které takový obsah umožňují vytvářet nebo šířit. Změny přicházejí v době, kdy se pozornost veřejnosti zaměřuje také na chatbot Grok od společnosti xAI. Uživatelé v minulosti upozorňovali na jeho zneužívání k vytváření explicitních deepfake obrázků.
Apple zakazuje i aplikace, které skrývají svůj skutečný účel
Vedle pravidel týkajících se AI obsahu Apple přidal také nové ustanovení označené jako 2.5.19. To výslovně upozorňuje, že vývojáři riskují odstranění aplikace z App Storu i vyloučení z Apple Developer Programu, pokud do aplikace přidají funkce, které nebyly součástí verze předložené ke schválení. Toto opatření se zaměřuje mimo jiné na takzvané aplikace pro svlékání lidí pomocí umělé inteligence. Ty umožňují vytvořit sexuálně explicitní podobizny skutečných osob bez jejich souhlasu. Problém spočívá v tom, že některé aplikace mohou při kontrole Applu působit jako běžné nástroje pro úpravu fotografií, ale po schválení získají další funkce, které umožňují vytvářet závadný obsah. Tento postup se označuje jako bait-and-switch, tedy taktika, při níž vývojář prezentuje jiný produkt, než jaký nakonec uživatelům skutečně nabízí. Apple podobné praktiky zakazuje a novým pravidlem chce jasněji vymezit, že vývojáři nesmějí před kontrolou skrývat skutečné funkce svých aplikací.
