Více než polovina Čechů si myslí, že dokáže rozpoznat video vytvořené umělou inteligencí. Jen třetina ale skutečně ví, co pojem deepfake znamená. Výzkum agentury Ipsos pro Vodafone ukazuje, jak rostoucí možnosti AI mění důvěru v digitální komunikaci. Operátor proto přichází s aplikací Verify, která pomáhá odhalovat zmanipulovaný obsah.
Jedna fotografie a přibližně patnáct sekund hlasového záznamu. Tolik dnes podle Matyho Boháčka, spoluzakladatele technologické společnosti Synhawk a výzkumníka Stanfordovy univerzity, může stačit k vytvoření přesvědčivého digitálního dvojníka. Ten pak může mluvit vaším hlasem, vypadat jako vy a říkat věci, které jste nikdy neřekli. „Před šesti nebo sedmi lety byla představa, že bude možné kohokoliv takto naklonovat, spíše sci-fi,“ připomněl Boháček. Dnes podle něj podobné technologie zvládají velmi dobře češtinu a s přibývajícími referenčními materiály dokážou napodobit individuální projevy člověka.
Veřejnost si ve schopnosti odhalovat digitální podvrhy poměrně věří. Podle zářijového průzkumu agentury Ipsos pro Vodafone se 56 procent lidí domnívá, že by dokázalo poznat deepfake video. U fotografií si věří 47 procent a u dokumentů už jen 32 procent dotázaných.
Pojem deepfake zná dobře pouze jedna třetina Čechů. Další třetina o něm slyšela, ale příliš mu nerozumí, a zbývající třetina se s ním dosud nesetkala. Největší jistotu deklarují mladí lidé. Ve věkové kategorii 18 až 26 let si na rozpoznání deepfake videa troufá 80 procent respondentů, zatímco mezi lidmi ve věku 54 až 65 let pouze 42 procent. „Lidé se při rozpoznávání nejčastěji spoléhají na různé drobné detaily, které nesedí, například nepřirozenosti v obraze nebo špatný počet prstů. Jenže tvůrci jsou stále rafinovanější a podle těchto znaků je čím dál složitější deepfake rozpoznat,“ vysvětlila Tereza Horáková, specialistka výzkumu Ipsosu.
Podvodníci neútočí jen na jednotlivce
S podvodem využívajícím umělou inteligenci se podle průzkumu osobně nebo ve svém blízkém okolí setkalo 24 procent Čechů. Dalších 86 procent očekává, že podobných útoků bude během následujících dvou let přibývat. Riziko se ale netýká jen běžných uživatelů internetu, podvodníci se stále častěji zaměřují také na firmy, například prostřednictvím falešných faktur, žádostí o změnu bankovního účtu nebo hlasových zpráv napodobujících nadřízené.
S podvodnými požadavky na platbu či změnu bankovních údajů využívajícími napodobení identity se setkalo 31 procent firem, dalších 22 procent zaznamenalo falešné dokumenty nebo faktury vytvořené či upravené pomocí AI. Přesto se pouze 31 procent firem považuje za dobře připravené podobným útokům čelit. Specializované nástroje pro detekci deepfake obsahu využívá jen šest procent společností. V hodnocení vlastní připravenosti nejsou podle expertky výrazné rozdíly mezi malými firmami a velkými korporacemi. Větší podniky sice častěji školí zaměstnance a zavádějí bezpečnostní postupy, současně ale musí chránit mnohem více lidí.
Vodafone chce uživatele naučit ověřovat
Na rostoucí riziko reaguje Vodafone novou aplikací Verify, kterou vyvinul ve spolupráci se společností Synhawk. Uživatelé do ní mohou nahrát podezřelé fotografie, videa, hlasové zprávy, texty nebo dokumenty. Služba pak analyzuje rizikové signály a nabídne pravděpodobnostní vyhodnocení toho, zda mohl být obsah vytvořen nebo upraven pomocí AI.
Petr Roháček, ICT produktový manažer Vodafonu, předvedl příklad hlasové zprávy od údajného kolegy, který žádal o zaslání pracovního plánu včetně rozpočtu a termínů kampaní. Aplikace po analýze upozornila, že jde o syntetický hlas. „Není to magický štít, který vás stoprocentně vždycky ochrání,“ upozornil Roháček. Podstatou služby je podle něj vytvořit mezi přijetím podezřelé zprávy a následným jednáním prostor pro ověření informací. Pokud například přijde neobvyklý požadavek od kolegy, je dobré ho potvrdit ještě přes jiný komunikační kanál.
Aplikace Vodafone Verify bude dostupná od 22. října pro Android a iOS. U vybraných tarifů bude součástí balíčku, ostatní si ji budou moci pořídit za 59 korun měsíčně bez DPH. V roce 2027 plánuje Vodafone přidat ochranu přímo v mobilní síti a také nástroj, který bude upozorňovat na podezřelé účastníky online schůzek.
Samotná detekce není definitivní důkaz pravosti či nepravosti obsahu – výsledek představuje další vodítko pro rozhodování, nikoliv náhradu lidského úsudku.
Nový digitální reflex: zastavit se a ověřit
Podle průzkumu Nadace Vodafone mezi lidmi staršími 60 let se 38 % respondentů obává, že by nerozeznalo podvodný hlas nebo video vytvořené pomocí AI. Čtvrtina z nich navíc o podobných podvodech dosud vůbec neslyšela. Vodafone proto službu staví na jednoduchém principu: zastavit se, ověřit a teprve potom jednat. V době, kdy lze během několika minut věrohodně napodobit hlas, podobu nebo identitu člověka, se podle společnosti ověřování stává novým základním návykem digitální komunikace.
Vodafone Verify bude pro Android a iOS dostupný od 22. října ale nebude pro všechny zdarma.
Před nedávnem jsme psali o O2, které pro své zákazníky nabízí rádkyni Babičku Alenku, která má také pomoci s určením, co je reálné.
