Funkce My AI Snapchatu by moha být zakázána ve Spojeném království kvůli obavám, že by mohla ohrozit soukromí dětí. My AI je funkce, kterou společnost do aplikace přidala v únoru.
„Dnes spouštíme My AI, nového chatbota s nejnovější verzí technologie GPT OpenAI, kterou jsme přizpůsobili pro Snapchat. My AI je k dispozici jako experimentální funkce pro předplatitele Snapchat+, která bude uvedena tento týden.“ Nicméně i v té době společnost varovala uživatele, aby nesdíleli osobní informace s AI, protože sdílené informace nejsou soukromé. „Všechny konverzace s My AI budou uloženy a mohou být zkontrolovány, aby se zlepšila funkce. Nesdílejte prosím s My AI žádné soukromé informace a nespoléhejte se na radu.“ Britský regulátor ochrany osobních údajů říká, že společnost zřejmě neprovedla řádné posouzení rizik s ohledem na soukromí dětí.
Vyšetřování předběžně zjistilo, že Snap nedokázal adekvátně identifikovat a vyhodnotit rizika pro několik milionů uživatelů, včetně dětí ve věku 13 až 17 let. Vyšetřování ICO předběžně zjistilo, že společnost před spuštěním „My AI“, dostatečně neposoudila rizika ochrany dat, která generativní technologie AI představuje, zejména pro děti. V této souvislosti je zvláště důležité posouzení rizika ochrany údajů, které zahrnuje používání inovativních technologií a zpracování osobních údajů dětí ve věku 13 až 17 let. ICO zdůrazňuje, že se jedná pouze o prozatímní zjištění a je otevřena prohlášením společnosti, aby prokázala, že její závěry jsou nesprávné. Pokud to však společnost neudělá, může být tato funkce ve Spojeném království zakázána.
