Kybernetická bezpečnost

Šéf vygenerovaný počítačem: Jak fungují deepfakes?

9 min. čtení

Kdybyste měli hovor přes Teams a váš vedoucí vám z očí do očí řekl, že máte provést převod peněz, přemýšleli byste o tom, zda je osoba na obrazovce skutečná? Vzhledem k tomu, že deepfakes jsou stále častější, pravděpodobně byste měli. Tato moderní technologie může sloužit k zábavě, ale i kybernetické kriminalitě.

Co jsou deepfakes a jak fungují?

Deepfakes jsou obrázky nebo nahrávky, které byly díky hlubokému učení (součásti strojového učení) přesvědčivě upraveny a zmanipulovány tak, aby vypadaly, že někdo dělá nebo říká něco, co nikdy neudělal nebo neřekl.

 

Tato pozornost upoutávající technologie se nyní stala široce přístupnou veřejnosti. Aplikace jako FaceApp umožňují lidem vytvářet deepfake videa prakticky kohokoli. Můžete například vložit svůj obličej do populárního hudebního videa nebo se stát hlavním aktérem zábavné filmové scény. Některé deepfakes na internetu mohou být zábavné, ale ve špatných rukou se zfalšované videozáznamy nebo zvukové nahrávky staly také nástrojem kybernetické kriminality, který se používá k útokům na jednotlivce i firmy. Věděli jste, že počítač může být schopen vytvořit zvukový deepfake po poslechu pouhých 10-20 sekund něčího hlasu?

Deepfake jako politický manipulátor i kybernetický útočník

Kromě toho, že deepfakes slouží k pobavení, mohou mít také závažné právní, osobní nebo politické dopady. Kyberzločinci navíc nyní mohou snadno zfalšovat zvukové nebo obrazové nahrávky.

Jaké riziko představují deepfakes pro firmy?

V oblasti kybernetické bezpečnosti lze deepfakes využít k vydírání, podvodům a manipulaci. Útočníci mohou například pomocí falešného videa vydírat generálního ředitele, aby zaplatil za zničení videa, jinak by riskoval ohrožení pověsti své společnosti. Častěji se společnosti mohou setkat s vishingem, specifickým typem phishingu, který může využívat deepfake audio k manipulaci zaměstnanců tím, že je přesvědčí, aby plnili příkazy svých domnělých zaměstnavatelů.

Jeden z nejznámějších případů deepfake útoku se stal v roce 2019, kdy generálnímu řediteli jedné britské energetické firmy zavolal jeho šéf a řekl mu, aby převedl téměř čtvrt milionu liber dodavateli v Maďarsku. Protože hlas zněl podobně jako hlas jeho německého šéfa, generální ředitel příkazy splnil. Brzy poté následoval další telefonát, který generálního ředitele nabádal, aby poslal další peníze. To v něm vzbudilo ještě větší podezření, a tak se rozhodl kontaktovat úřady. Brzy poté vyšlo najevo, že se generální ředitel stal obětí vishingu, který s největší pravděpodobností použil technologii deepfake k duplikaci hlasu německého šéfa.

V dalším případě z roku 2022 začal Patrick Hillmann, CCO kryptoměnové burzy Binance, dostávat telefonáty od lidí, kteří tvrdili, že s ním byli v kontaktu a že s nimi diskutoval o možnosti obchodovat svá aktiva na Binance a nabízel jim Binance token výměnou za určitou částku v hotovosti.

Hillmanna to překvapilo, protože nikoho z volajících neznal a domníval se, že s nimi nikdy nebyl v kontaktu. Později zjistil, že kyberzločinci použili některé z jeho minulých zveřejněných rozhovorů k vytvoření deepfake kopie jeho osoby a simulovali falešné obchodní hovory přes Zoom. Lidé, kteří se stali obětí tohoto deepfake podvodu, přišli o své peníze, ale zároveň tento podvod představoval vážné ohrožení pověsti společnosti.

Nenaleťte na deepfakes

Při pohledu na některé propracovanější deepfakes můžete mít pocit, že neexistuje způsob, jak zjistit, zda to, co vidíte online, je falešné nebo pravé. Ve skutečnosti je prospěšné zachovat si určitou skepsi. Pokud jen trochu pochybujete o tom, co vidíte na obrazovce, jste již o krok blíže k tomu, abyste zůstali v bezpečí.

Jak deepfake nahrávky a fotky rozpoznáte?

Pokud jde o zvukové nahrávky, deepfakes je náročnější odhalit, protože mohou znít přesně jako běžný lidský hlas. Některé programy však nyní dokáží deepfake audia odhalit. Jak? Lidský hlas dokáže vydávat omezenou škálu zvuků, zatímco „hlas počítače“ tak omezený není, a proto zní trochu jinak.

Dokážete rozpoznat deepfake bez specializovaného softwaru?

Může to být obtížnější, ale je to možné. Zde je uvedeno, na co se zaměřit u video i audio deepfakes:

  • Působí nahrávka těžko uvěřitelně? Je obsah skandální a snaží se vyvolat emocionální reakci? Pokud ano, může to být první znamení, že je třeba k němu přistupovat skepticky a ověřit si informace, které vidíte nebo slyšíte.
  • Zaměřte se na detaily. Často mají tvůrci deepfakes problémy s vytvářením jemnějších výrazů, jako je mrkání, dýchání nebo jemné pohyby vlasů a obličeje. Občas se také mohou vyskytnout drobné vady v záznamu na místech, která jsou nejvíce v pohybu. U zvukových nahrávek byste měli hledat nepřirozené pauzy mezi slovy nebo naopak příliš dokonalou řeč.
  • Nekoukejte pouze na obličej. Když na nás někdo mluví, máme tendenci se dívat spíše na jeho obličej než na tělo. Tvůrci deepfakes se také primárně zaměřují na replikaci výrazů obličeje, takže pokud se vám tvar těla nebo pohyby osoby ve videu zdají mírně mimo, možná se díváte na deepfake.
  • Odpovídá zvuk videu? Někdy se tvůrcům deepfakes nepodaří sladit zvukový záznam s pohyby osoby. Opět pozorně sledujte obličej a zjistěte, zda pohyby úst odpovídají slovům, která z něj údajně vycházejí.
  • Podívejte se na nasvícení. Je konzistentní? Nebo se vám zdá hlava osoby nepřirozeně světlá či tmavá? Nesrovnalosti v osvětlení mohou být vodítkem k deepfakes.

Udělejte ze vzdělávání o digitální bezpečnosti zábavu

IT týmy by se měly snažit informovat vedení své společnosti a její zaměstnance o deepfakes a jejich rizicích. Vzhledem k tomu, že deepfakes jsou fascinujícím příkladem technologie, kterou mohou využívat jak vtipálci, tak kyberzločinci, měli byste se snažit, aby školení zaměstnanců bylo interaktivní a hravé. Pošlete například zaměstnancům několik videí a nechte je hádat, která jsou pravá a která ne. Pokud se budete snažit o aktivní zapojení zaměstnanců do školení, je pravděpodobnější, že si zapamatují, co se naučili, a využijí tyto znalosti ke zvýšení zabezpečení vaší společnosti.

Čtěte více