Deepfakes podle Facebooku představují pro digitální platformy a společnost obecně vážný problém. Na internetu jsou stále relativní vzácností, jejich užívání ale sílí, napsala na firemním webu viceprezidentka Monika Bickertová.
„Budeme odstraňovat zavádějící upravený obsah, půjde-li o produkt umělé inteligence či strojového učení vytvořený spojením, nahrazením či překrytím obsahu ve videu, čímž je navozen dojem, že je (to video) autentické,“ vysvětlila Bickertová.
Nedávno se objektem falešného videa tohoto typu stal i šéf Facebooku Mark Zuckerberg, když jeden britský umělec upravil úryvek z jeho televizního interview. Zuckerberg se ve věrohodně vyhlížejícím klipu mimo jiné chlubil tím, že má absolutní moc nad „ukradenými daty miliard lidí“.
Počítač umí přelepit tvář. Internet zaplaví parodie a falešné porno |
Zákaz se vztahuje i na jinak upravená videa, která by mohla uživatele přesvědčit, že člověk na obrazovce „pronesl slova, která ve skutečnosti neřekl“. Editace obsahu přitom musí být za hranicí pouhého vylepšení kvality a musela by být provedena tak, že pro „průměrného člověka“ by nebyla zjevná.
Výjimku mají parodie a satira
Mnozí analytici nicméně mají za to, že alespoň v nejbližší době mohou větší hrozbu než deepfakes představovat mnohem jednodušší formy manipulace. Média v souvislosti s novým opatřením Facebooku připomínají zejména loňskou kauzu s předsedkyní americké Sněmovny reprezentantů Nancy Pelosiovou. Na Facebooku a dalších platformách se tehdy šířily zpomalené záběry z jejího projevu, které byly prezentovány jako důkaz, že Pelosiová je opilá nebo trpí nějakými zdravotními potížemi.
„Upravené video předsedkyně Pelosiové nesplňuje měřítka tohoto opatření a nebylo by smazáno. Blokována budou jen videa vytvořená umělou inteligencí, která ukazují lidi, jak říkají fiktivní výroky,“ sdělil Facebook agentuře Reuters.
Bickertová v blogovém příspěvku doplňuje, že ohlášený zákaz se netýká ani parodií a satiry či videí, v nichž chybějí části vyjádření mluvčího, nebo v nichž je změněno pořadí výroků. Sítem by tak prošel i hojně sdílený klip z minulého týdne, v němž byla vytržena z kontextu slova bývalého amerického viceprezidenta Joea Bidena ve snaze zobrazit ho jako rasistu.
Výjimka pro parodie a satiru by podle deníku The Washington Post mohla vést k ošemetným polemikám při posuzování manipulativního obsahu. Mezery v novém opatření Facebooku vzbuzují obavy také u profesora Kalifornské univerzity Hanyho Farida, který se specializuje na analýzu digitálních záběrů. Zákaz je podle něj příliš úzce vymezen.
„Tato zavádějící videa (s Pelosiovou a Bidenem) byla vytvořena jednoduchými technologiemi a neopírala se o metody založené na umělé inteligenci, přesto byla přinejmenším tak zavádějící jako deepfake,“ poznamenal Farid a ptá se: “Proč se zaměřovat pouze na deepfakes a ne na širší problém s úmyslně manipulativními videi?“
Facebook se hájí tím, že v případech, kdy daný příspěvek neporušuje pravidla platformy, může být stále video po analýze označeno za falešné nebo částečně falešné. Provozovatel této sociální sítě následně omezí distribuci takového příspěvku a připojí k němu upozornění nezávislých kontrolorů. Podle Bickertové je uvedený postup lepší, než kdyby se videa mazala, protože by stále byla dostupná jinde na internetu.
