Obavy v souvislosti s všudypřítomným využíváním umělé inteligence má drtivá většina Čechů. Nejčastěji se týkají zneužití AI, ať už přímo ke kyberkriminalitě nebo k získání citlivých dat. Dále se Češi obávají ztráty lidského kontaktu, ztráty kontroly nad AI a narušení soukromí. Méně lidí má obavy, že jim AI sebere práci nebo že se na ní stanou závislými. Vyplývá to z průzkumu technologické společnosti Agnostix mezi více než 1000 respondenty napříč Českem.
Data z průzkumu ukazují, že nejsilněji v české společnosti nerezonuje strach z toho, že lidem umělá inteligence sebere práci, ale poměrně jasně nejčastěji zaznívají obavy z bezpečnosti a zneužití AI. Zhruba polovina Čechů se obává zneužití AI například ke kyberkriminalitě a téměř stejně hojná je obava z úniku citlivých dat, ať už osobních, o rodině nebo třeba o firmě či podnikání.
„Zatímco některé typy obav pramení hlavně z neznalosti a spadají spíše do žánru sci-fi, v tomto případě to neplatí. Různé formy bezpečnostních incidentů jsou totiž stále častější nejen v zahraničí, ale už i v Česku. A nejde zdaleka jen o úniky dat, na které musí být například chatboti firem a institucí připraveni,“ popisuje Mário Mitas, spoluzakladatel společnosti Agnostix.
Zkušenosti z praxe ukazují, že AI boti velkých českých firem čelí desítkám různých forem útoků denně. V prostředí komunikace mezi AI a člověkem musí firmy a instituce hlídat nejen soukromí uživatelů a dodržování GDPR, ale zároveň detekovat i potenciální trestné činy, kterých by se chatbot mohl dopustit podporou nelegálního nebo neetického chování.
„Náš Defender kromě těchto rizik detekuje stále častěji také snahy samotných uživatelů o zneužití chatbotů a voicebotů, kteří se je snaží hacknout nebo přepromptovat, aby pro sebe získali nějakou cennou informaci, výhodu či slevu,“ popisuje Mitas. „Bezpečnost dnes proto nespočívá jen v ochraně uživatelů, ale i samotných provozovatelů virtuální asistentů, chatbotů a voicebotů, ať už jde o firmy, organizace nebo státní instuce,“ dodává.
Ztráta kontaktu, kontroly i soukromí
Vedle bezpečnosti se Češi nejvíce obávají toho, že v souvislosti s používáním AI něco ztratí. Ale možná překvapivě nemají na mysli práci. 44 procent Čechů se obává ztráty lidského kontaktu a toho, že častěji budeme mluvit se stroji než se skutečnými lidmi. S přibývajícím věkem respondentů rostou i obavy tohoto typu a např. mezi šedesátníky se ztráty lidského kontaktu obává více než polovina lidí.
Ztráty kontroly nad jednáním umělé inteligence se obávají 4 z 10 Čechů. A zatímco tato obava je poměrně stejně silná v různých věkových generacích, liší se u lidí s různým stupněm dosaženého vzdělání. Mezi vysokoškolsky vzdělanými lidmi se ztráty kontroly nad AI obává 43 procent lidí, u respondentů se základním vzděláním je to jen 30 procent.
„Současnou výzvou není ani tak nasadit AI, ale spíš ji neustále hlídat a sledovat, co se například v komunikacích mezi AI a člověkem odehrává. Nejde jen o zajištění faktické obsahové správnosti, tedy aby AI nehalucinovala, ale například také o zajištění ochrany lidí ve složitých životních situacích. I zde bychom měli mít pod kontrolou, jak se konverzační AI k lidem chová a jak s nimi jedná. A to nejen ve fázi testování, ale především v plném provozu,“ popisuje Mitas.
Ztráty soukromí se kvůli využívání AI obává 37 procent Čechů. Strach z toho, že je pořád bude někdo poslouchat, má přitom poměrně výrazně více žen než mužů. Ženy se oproti mužům také v hojnější míře obávají toho, že jim nebo jejich blízkým AI sebere práci. Často medializovanou obavu má však celkově jen 20 procent Čechů.
Ještě o něco méně lidí se obává vzniklé závislosti na umělé inteligenci a toho, že už se bez ní neobejdou. Tato obava je výrazně nejrozšířenější u mladé generace lidí mezi 18 a 26 lety, kde se závislosti na AI obává třetina respondentů. Celkově nejméně lidí se pak obává situace, kdy se někdo dozví, že AI používají k podvádění. Tuto obavu mají jen 4 procenta Čechů.
