Deepfake a manipulace před volbami do Evropského parlamentu: Hrozba pro demokracii v digitálním věku

PRAHA – 27. května 2024 – Kyberbezpečnostní společnost Check Point® Software Technologies upozorňuje, že kybernetické hrozby a deepfake technologie ovlivňují důvěru ve volby i jejich průběh.

Vzhledem k blížícím se volbám do Evropského parlamentu, které proběhnou od 6. do 9. června, se zvyšuje riziko kybernetických útoků a zneužití deepfake technologií. Nejedná se pouze o technologickou hrozbu, ale i o demokratickou výzvu pro všechny členské státy.

„Prověřili jsme 36 parlamentních, regionálních a prezidentských voleb, které se konaly od září 2023 do února 2024, a zjistili jsme, že nejméně v 10 případech byly použity k dezinformačním kampaním deepfake videa a audio záznamy s klonováním hlasu. Často se nejedná o práci osamělých vlků, ale o koordinované akce profesionálních skupin. V souvislosti s Evropskými volbami můžeme očekávat novou vlnu podvrhů napříč jednotlivými zeměmi,“ říká Daniel Šafář, Area Manager CEE regionu z kyberbezpečnostní společnosti Check Point Software Technologies.

Například během parlamentních voleb na Slovensku jsme viděli snahu ovlivnit veřejné mínění pomocí klonování hlasu kandidátů. Při těsných výsledcích voleb mohou rozhodnout o vítězi i velmi drobné vlivy a vychýlit pomyslný jazýček na vahách jedním nebo druhým směrem. Podobně jsme viděli snahu ovlivnit polské volby pomocí videa se zvukem generovaným AI technologiemi. Ale i mnoho dalších zemí má podobné fatální zkušenosti. Úspěch, jakkoli těžce měřitelný, těchto podvrhů ještě zvýší motivaci dalších útočníků v nadcházejících volbách.

Deepfake podvrhy mohou být použity k šíření dezinformací a manipulaci s veřejným míněním, ale je zde i potenciální hrozba kybernetických útoků na infrastrukturu volebních systémů. Je proto nutná ostražitost a spolupráce na všech úrovních, aby byla zachována integrita volebního procesu.

Deepfake technologie využívají strojové učení a umělou inteligence k vytváření nebo úpravě videí a zvukových nahrávek, aby vypadaly a zněly autenticky. Vyobrazené osoby pak mohou dělat a říkat věci, které ve skutečnosti nikdy neudělaly ani neřekly. V kontextu voleb mohou podobná videa poškodit reputaci politiků, šířit falešné zprávy a dezinformace a v konečném důsledku tak ovlivnit rozhodování voličů.

Na Telegramu jsou stovky kanálů (přibližně 400-500) a skupin, které nabízí deepfake služby, od automatizovaných botů, kteří uživatele provedou celým procesem, až po personalizované služby poskytované přímo jednotlivými kyberzločinci. Ceny začínají na 2 dolarech za video, za 100 dolarů si lze zaplatit více videí a pokusů. Vytváření podvodného obsahu je tak znepokojivě dostupné.

Klonování hlasu se používá k replikaci hlasu člověka s pozoruhodnou přesností. Analyzuje se výška, tón a styl hlasu, takže AI pak dokáže vygenerovat přesvědčivé falešné proslovy, které věrně napodobují originální hlas. Přitom stačí jen několik sekund zvuku z online videa nebo jiné nahrávky. Ceny začínají přibližně na 10 dolarech za měsíční paušál, ale mohou se vyšplhat i na stovky dolarů v závislosti na kvalitě poskytovaných funkcích, jako je převod na řeč v reálném čase, nižší latence nebo přístup k API rozhraní.

Použití těchto technologií v dezinformačních kampaních představuje významnou hrozbu pro volby do Evropského parlamentu, volební proces může být narušen několika způsoby:

1. Manipulace s voliči: Deepfake video a audio lze použít k vytvoření falešných událostí, ve kterých politici říkají nebo dělají věci, které mohou poškodit jejich reputaci nebo ovlivnit voliče. Taková videa lze šířit velmi rychle prostřednictvím sociálních sítí. Nebo se naopak mohou objevit videa, která budou heroizovat vybrané kandidáty a budou ukazovat jejich záslužné činy, které ale ve skutečnosti nikdy nevykonali.
2. Podkopání důvěry veřejnosti: Pokud začínají být deepfake videa a audio záznamy běžnými nástroji, může to vést k širší nedůvěře veřejnosti v informace, což voličům ještě ztíží informované rozhodnutí.
3. Destabilizace politického prostředí: Účinné šíření deepfake podvrhů může vést k politickému napětí a nestabilitě, pokud voliči nebudou schopni rozeznat pravdivé informace od falešných. Následkem může být nedůvěra v demokratické instituce a procesy.
4. Špionáže: Národní hackerské skupiny a další kyberzločinci se mohou pokusit narušit průběh voleb i různými sofistikovanými útoky a snahou o špionáže a úniky dat, aby ovlivnili výsledky voleb ve prospěch určitých politických skupin nebo ideologií.
5. Legální a etické dilema: Deepfake videa vyvolávají otázky týkající se zásahů do osobních práv a právních norem. Právní rámce mohou mít problém udržet krok s technologickým rozvojem, což ztěžuje regulaci a potrestání zneužití.

„Evropská unie a členské státy se snaží aktivně čelit těmto hrozbám. Evropská komise například nedávno přijala zákon o umělé inteligenci, který by měl zvýšit transparentnost a také omezit použití AI ke škodlivým účelům,“ dodává Daniel Šafář. „Kyberzločinci a národní hackerské skupiny také Evropské volby využijí k šíření propagandy proti EU a budou podporovat nejrůznější protievropské iniciativy v jednotlivých zemích.“

Zároveň můžeme očekávat i vlnu hacktivistických útoků, zejména v podobě DDoS útoků na nejrůznější služby a exponované webové stránky. Například během českých prezidentských voleb se proruská hacktivistická skupina NoName057(16) snažila vyřadit z provozu stránky některých kandidátů a vyvolat atmosféru strachu.

Jak se proti tomu bránit?

• Ověřovat zdroje: Naučte se rozpoznávat spolehlivé zdroje informací a vyhýbejte se sdílení nedůvěryhodného obsahu, který by mohl manipulovat vašimi přáteli.
• Vzdělávat se: Klíčové v boji s manipulací a dezinformacemi je vzdělávání a používání kritického myšlení. Užitečné je účastnit se například workshopů nebo kurzů o mediální gramotnosti, abyste rozpoznali falešný obsah.
• Využívat technologie pro dobrou věc: Využívejte dostupné nástroje pro detekci deepfake a jiného manipulativního obsahu. Sociální sítě a platformy by měly informovat uživatele o možnosti, že obsah může být zmanipulovaný.
• Pozor na nevyžádané zprávy: Neotvírejte e-maily nebo přílohy od neznámých zdrojů nebo osob. Na zprávy zároveň nijak nereagujte a rovnou je smažte, případně je nahlaste.

Novinky od českého týmu společnosti Check Point Software Technologies:

Facebook: https://www.facebook.com/CheckPointCzech

X: https://twitter.com/CheckPointCzech

LinkedIn: https://cz.linkedin.com/showcase/checkpointczech

Sledujte novinky o bezpečnostním týmu Check Point Research:

Blog: https://research.checkpoint.com/

X: https://twitter.com/_cpresearch_

Sledujte novinky o společnosti Check Point Software Technologies:X: http://www.twitter.com/checkpointswFacebook: https://www.facebook.com/checkpointsoftwareBlog: http://blog.checkpoint.comYouTube: http://www.youtube.com/user/CPGlobalLinkedIn: https://www.linkedin.com/company/check-point-software-technologies

O výzkumném týmu Check Point Research

Check Point Research poskytuje zákazníkům společnosti Check Point Software a širší bezpečnostní komunitě detailní informace o kyberhrozbách. Výzkumný tým shromažďuje a analyzuje data o globálních kyberútocích ze sítě ThreatCloud, chrání tak před hackery a zajišťuje, že všechny produkty Check Point jsou aktualizované a mají nejnovější ochranu. Výzkumný tým se skládá z více než 100 analytiků a výzkumných pracovníků, kteří spolupracují také s dalšími bezpečnostními společnostmi, donucovacími orgány a organizacemi CERT.

O společnosti Check Point Software TechnologiesCheck Point Software Technologies Ltd. (www.checkpoint.com) je přední poskytovatel kyberbezpečnostních řešení pro vlády a organizace po celém světě. Chrání zákazníky před kyberútoky 5. generace prostřednictvím unikátních řešení, která nabízí bezkonkurenční úspěšnost zachycení malwaru, ransomwaru a jiných pokročilých cílených hrozeb. Check Point nabízí víceúrovňovou bezpečnostní architekturu, Infinity Total Protection s pokročilou prevencí hrozeb 5. generace, a tato kombinovaná produktová architektura chrání podnikové sítě, cloudová prostředí a mobilní zařízení. Check Point navíc poskytuje nejkomplexnější a nejintuitivnější nástroje pro správu zabezpečení. Check Point chrání více než 100 000 organizací všech velikostí.