Deepfake je termín, který se objevil a začal používat až ve druhé polovině druhé dekády jednadvacátého století. Deepfake je termín z oblasti videotechniky. Jde o syntézu lidského obrazu založenou na umělé inteligenci. Deepfake („hluboké padělky“) lze zneužít k vytváření falešných video záznamů, k vytvoření falešných zpráv a škodlivých podvodů.
Deepfake, „hluboké padělky“
Deepfake je technika syntézy lidského obrazu založená na umělé inteligenci. Používá se ke kombinování a překrývání existujících obrázků a videí na zdrojové obrázky nebo videa pomocí techniky strojového učení. Využitím těchto schopností byly „hluboké padělky“ například použity:
- k vytvoření falešných pornografických videí celebrit,
- k vytvoření falešných zpráv
- a škodlivých finančních a jiných podvodů.
Deepfake se nejčastěji používá pro realistickou úpravu videozáznamů tváří zobrazených osob. Nepředstavujme si jednoduchou „výměnu“ obličeje nebo postavy za cizí tvář. V případě technologie deepfake lze velmi věrohodně změnit mimiku, mimo jiné i pohyb úst, která na výsledném obraze pronášejí docela jiná slova, než v původním originálním záznamu. „Deepfake využívá pokročilého počítačového zpracování dat s využitím umělé inteligence (využívá neurální sítě se schopností učit se) a kvalita výsledného produktu – upraveného videa – se neustále zvyšuje,“ vysvětluje se na e-bezpeci.cz/.
Vývoj deepfake na akademické půdě
K rozvoji „hlubokých podvodů“ do značné míry došlo ve dvou prostředích:
- výzkum v akademických institucích
- a vývoj amatérský v online komunitách.
„Akademický výzkum týkající se hlubokých padělků leží převážně v oblasti počítačového vidění, v podoblasti počítačové vědy často založené na umělé inteligenci, která se zaměřuje na počítačové zpracování digitálních obrázků a videa,“ uvádí en.wikipedia.org.
„Program Face2Face, publikovaný v roce 2016, upravuje videozáznam lidského obličeje tak, aby zobrazoval napodobováním mimických výrazů jiné osoby v reálném čase. Projekt uvádí jako hlavní výzkumný příspěvek první metodu re-uzpůsobení výrazů obličeje v reálném čase pomocí kamery, která nezachycuje hloubku, což umožňuje, aby byla technika prováděna pomocí běžných spotřebitelských kamer,“ lze se dočíst v anglické verzi Wikipedie.
Amatérský vývoj deepfake
„Amatérští internetoví nadšenci takto zatím produkují především falešnou pornografii s tvářemi známých celebrit. Podobné klipy začaly zaplavovat internetová fóra v prosinci 2017. Brzy se kolem algoritmu uživatele deepfake zorganizovala komunita nadšenců. Některým šlo o technologii, jiným zjevně o splnění pornografickách fantazií. Výsledkem byla symbióza pohánějící vznik nových, stále realističtějších montáží,“ informoval před časem server idnes.cz.
Zásah do ověřování pravdivosti
„Deep fake je fenomén, který v budoucnu zásadním způsobem ovlivní práci s informacemi – významným způsobem zasáhne především ověřování jejich pravdivosti. Bude pak pravděpodobně velmi obtížné, či dokonce nemožné odhalit, zda je materiál – v případě deep fake videozáznam – autentický, nebo zda byl upraven. Dostupnost této technologie posílí šíření dezinformací online prostředím a postupně posílí úloha autorit – informace budou posuzovány podle toho, kdo je publikoval, odpovědnost za jejich pravdivost bude stále více přenášena na vydavatele/autora,“ uvádí portál e-bezpeci.cz/.
Ilustrační foto: pixabay.com