Tech

Záludnější než deepfake? Na internetu se šíří další forma manipulativních videí

Záludnější než deepfake? Na internetu se šíří další forma manipulativních videí

Deepfakes podle Facebooku představují pro digitální platformy a společnost obecně vážnı problém. Na internetu jsou stále relativní vzácností, jejich užívání ale sílí, napsala na firemním webu viceprezidentka Monika Bickertová.

Nedávno se objektem falešného videa tohoto typu stal i šéf Facebooku Mark Zuckerberg, když jeden britskı umělec upravil úryvek z jeho televizního interview. Zuckerberg se ve věrohodně vyhlížejícím klipu mimo jiné chlubil tím, že má absolutní moc nad "ukradenımi daty miliard lidí".

Z instagramu, jehož vlastníkem je už několik let Facebook, příspěvek do dneška stažen nebyl. Na největší sociální síti světa už by ale nyní zřejmě byl zakázán. "Budeme odstraňovat zavádějící upravenı obsah,... půjde-li o produkt umělé inteligence či strojového učení vytvořenı spojením, nahrazením či překrytím obsahu ve videu, čímž je navozen dojem, že je (to video) autentické," vysvětluje Bickertová.

Zákaz se vztahuje i na jinak upravená videa, která by mohla uživatele přesvědčit, že osoba na obrazovce "pronesla slova, která ve skutečnosti neřekla". Editace obsahu přitom musí bıt za hranicí pouhého vylepšení kvality a musela by bıt provedena tak, že pro "průměrného člověka" by nebyla zjevná.

Mnozí analytici nicméně mají za to, že alespoň v nejbližší době mohou větší hrozbu než "deepfakes" představovat mnohem jednodušší formy manipulace.

Média v souvislosti s novım opatřením Facebooku připomínají zejména loňskou kauzu s předsedkyní americké Sněmovny reprezentantů Nancy Pelosiovou. Na facebooku a dalších platformách se loni šířily zpomalené záběry z jejího projevu, které byly prezentovány jako důkaz, že Pelosiová je opilá nebo trpí nějakımi zdravotními potížemi.

zdroj: YouTube

"Upravené video předsedkyně Pelosiové nesplňuje měřítka tohoto opatření a nebylo by smazáno. Blokována budou jen videa vytvořená umělou inteligencí, která ukazují lidi, jak říkají fiktivní vıroky," sdělil Facebook agentuře Reuters.

Bickertová v blogovém příspěvku doplňuje, že ohlášenı zákaz se netıká ani parodií a satiry či videí, v nichž chybějí části vyjádření mluvčího, nebo v nichž je změněno pořadí vıroků. Sítem by tak prošel i hojně sdílenı klip z minulého tıdne, v němž byla vytržena z kontextu slova bıvalého amerického viceprezidenta Joea Bidena ve snaze zobrazit ho jako rasistu.

Vıjimka pro parodie a satiru by podle deníku The Washington Post mohla vést k ošemetnım polemikám při posuzování manipulativního obsahu. Mezery v novém opatření Facebooku vzbuzují obavy také u profesora Kalifornské univerzity Hanyho Farida, kterı se specializuje na analızu digitálních záběrů. Zákaz je podle něj příliš "úzce vymezen".

"Tato zavádějící videa (s Pelosiovou a Bidenem) byla vytvořena jednoduchımi technologiemi a neopírala se o metody založené na umělé inteligenci, přesto byla přinejmenším tak zavádějící jako deepfake," řekl Farid. "Proč se zaměřovat pouze na deepfakes a ne na širší problém s úmyslně manipulativními videi?" tázal se.

Facebook se hájí tím, že v případech, kdy danı příspěvek neporušuje pravidla platformy, může bıt stále video po analıze označeno za "falešné nebo částečně falešné". Provozovatel této sociální sítě následně omezí distribuci takového příspěvku a připojí k němu upozornění nezávislıch kontrolorů. Podle Bickertové je uvedenı postup lepší, než kdyby se videa mazala, protože "by stále byla dostupná jinde na internetu".