Společnost OpenAI nedávno spustila svou aplikaci Sora pro iPhone, kterou popisuje jako nástroj pro generování hyperrealistických videí. Ve skutečnosti ji lze využít také k snadnému vytváření deepfake videí, což vyvolalo obavy ohledně zneužití.
Co Sora umí
- Umožňuje přeměnit nápady na videa s realistickým pohybem a zvukem.
- Stačí nahrát obrázek, a Sora vytvoří video v různých stylech: filmový, animovaný, fotorealistický či surrealistický.
- Aplikace se rychle dostala na vrchol App Store v USA a Kanadě, kde je zatím dostupná.
Cameos: vaše tvář ve videích
- Pokud použijete vlastní tvář ve videu, můžete rozhodnout, zda ostatní mohou vaši tvář použít – tzv. cameos.
- Původně ale uživatelé neměli kontrolu nad tím, co s vaší tváří ostatní dělají, což vedlo k problémům (např. politické či kontroverzní obsahy).
- Sora přidávala vodotisk, ale někteří ho dokázali odstranit.
OpenAI nyní umožňuje nastavit omezení pro použití vaší tváře, například: „neumísťuj mě do politických videí“ nebo „neříkej toto slovo“. Společnost pracuje na rozšíření bezpečnostních funkcí a plánuje viditelnější vodotisk, aby se snížilo riziko jeho odstranění. Sora tak nyní poskytuje větší kontrolu nad tím, jak může být vaše tvář použita, čímž reaguje na rychle vzniklé bezpečnostní a etické obavy ohledně deepfake obsahu.
