Společnost Apple podle nové zprávy NBC News v soukromé komunikaci varovala firmu xAI, že odstraní aplikaci Grok z App Store, pokud nezajistí účinné omezení tvorby deepfake obrázků.
Informace vyplývají z dopisu, který Apple zaslal americkým senátorům a který byl následně zveřejněn. Aplikace Grok, propojená se sociální sítí X, se dostala pod dohled poté, co uživatelé začali vytvářet explicitní obrázky žen a dětí, neautorizované „deepfake“ úpravy reálných fotografií a obsah, který porušoval pravidla platformy. Podle dostupných informací šlo o obsah generovaný pomocí AI, často založený na reálných osobách bez jejich souhlasu. Z dopisu vyplývá, že Apple interně vyhodnotil porušení pravidel App Store, požadoval po xAI konkrétní plán moderace a pohrozil odstraněním aplikace. Až po dalších úpravách Apple aplikaci nakonec schválil.
Společnost xAI uvedla, že má zavedené ochranné mechanismy:
- blokování nevhodných promptů
- monitoring používání
- průběžné aktualizace modelu
- detekci pokusů o obcházení pravidel
Navzdory tomu ale podle NBC News stále existují způsoby, jak omezení obejít a generovat podobný obsah. Celý případ znovu otevírá otázku, jak přísně by měly být AI aplikace kontrolovány v obchodech jako App Store a kde přesně leží hranice mezi ochranou soukromí a bezpečností uživatelů a odpovědností platforem jako Apple.
