Umělá inteligence dokáže vytvořit falešné video, hlas nebo dokument natolik přesvědčivě, že člověk nemusí poznat, že jde o podvod. Podle nového průzkumu Ipsos pro Vodafone má osobní nebo zprostředkovanou zkušenost s AI podvodem už 24 % lidí v Česku. Vodafone proto přichází s aplikací Verify, která má pomoci odhalit známky manipulace u fotografií, videí, hlasových zpráv i dokumentů.
Jedním z příkladů je případ dvaasedmdesátiletého muže z Olomoucka, který narazil na video s českým politikem propagujícím údajně výhodnou investici. Video působilo věrohodně, muž následně komunikoval s falešným finančním poradcem a během tří měsíců přišel o více než milion korun. Tvář i hlas politika byly podle policie zneužity v podvodu vytvořeném pomocí AI.
Češi si nejsou jistí, co je skutečné
Problém nespočívá jen v tom, že AI podvody přibývají. Mění se také samotná důvěra v digitální obsah. Podle průzkumu Ipsos pro Vodafone se 86 % lidí domnívá, že počet AI podvodů v příštích dvou letech dál poroste. Pouze třetina respondentů přitom skutečně ví, co znamená pojem deepfake. Třetina lidí zároveň nevěří, že by dokázala rozpoznat deepfake video, a 41 % pochybuje o své schopnosti odhalit fotografii vytvořenou nebo zmanipulovanou pomocí AI.
Sedm z deseti lidí by proto uvítalo službu od svého operátora, která by jim pomohla ověřovat pravost digitálního obsahu. „Největším rizikem, které umělá inteligence přináší, nejsou jen sofistikovanější podvody. Je jím narušování důvěry v digitální komunikaci,“ říká Violeta Luca, generální ředitelka Vodafonu.
Problém se týká i firem
Podle průzkumu mezi odborníky odpovědnými za IT a kyberbezpečnost ve firmách je pro devět z deseti respondentů kvůli rostoucímu množství obsahu generovaného AI stále obtížnější určit, čemu lze důvěřovat. Dalších 89 % firem očekává, že AI podvodů bude přibývat. Přesto se za dobře připravené na jejich zvládání považuje jen 31 % společností.
Nejčastěji se firmy setkávají s podvodnými požadavky na platby nebo změnu bankovního účtu vydávajícími se za konkrétního člověka. Tento typ incidentu zaznamenalo 31 % firem. Dalších 22 % se setkalo s falešnými fakturami či dokumenty vytvořenými nebo upravenými pomocí AI a 9 % s podezřelými hlasovými zprávami či hovory vydávajícími se za zaměstnance nebo vedení firmy.
Firmy se přitom stále spoléhají především na lidský úsudek. Specializované AI detektory nebo software pro rozpoznávání deepfake obsahu používá pouze 6 % společností. Devět z deseti firemních expertů zároveň věří, že ověřování obsahu může významně snížit finanční nebo reputační škody.
Vodafone Verify má ověřovat fotografie, video i hlas
Právě na tento problém reaguje nová služba Vodafone Verify, kterou operátor vyvinul společně se společností Synhawk. Uživatel do aplikace nahraje soubor nebo odkaz, například příspěvek ze sociálních sítí. Služba následně analyzuje různé rizikové signály a nabídne pravděpodobnostní vyhodnocení spolu s vysvětlením.
Cílem přitom není nahradit lidský úsudek, ale přidat další vrstvu informací, která může člověku pomoci při rozhodování. Podle Matyho Boháčka, výzkumníka AI a deepfake technologií na Stanfordově univerzitě a spoluzakladatele Synhawku, se totiž lidé při odhalování podvodů často spoléhají na známky, podle kterých má obraz nebo zvuk působit nepřirozeně. Právě ty ale AI postupně dokáže eliminovat.
Vodafone zároveň avizuje další rozvoj technologie. Připravuje služby Verify Meetings pro identifikaci deepfake účastníků online schůzek a Verify Network, která má být integrována přímo do sítě operátora.
Nový digitální reflex: zastavit se a ověřit
Podle průzkumu Nadace Vodafone mezi lidmi staršími 60 let se 38 % respondentů obává, že by nerozeznalo podvodný hlas nebo video vytvořené pomocí AI. Čtvrtina z nich navíc o podobných podvodech dosud vůbec neslyšela. Vodafone proto službu staví na jednoduchém principu: zastavit se, ověřit a teprve potom jednat. V době, kdy lze během několika minut věrohodně napodobit hlas, podobu nebo identitu člověka, se podle společnosti ověřování stává novým základním návykem digitální komunikace.
Vodafone Verify bude pro Android a iOS dostupný od 22. října ale nebude pro všechny zdarma.
Před nedávnem jsme psali o O2, které pro své zákazníky nabízí rádkyni Babičku Alenku, která má také pomoci s určením, co je reálné.
