Umělá inteligence se stále více integruje do našeho každodenního života. Technologie využívající AI jsou přítomné v našich mobilních telefonech, počítačích, internetových vyhledávačích nebo třeba sociálních sítích. Na internetu se stále častěji setkáváme s výtvory umělé inteligence, jako jsou články, obrázky, fotografie a videa. To s sebou ale přináší i rizika.
Umělá inteligence, respektive lidé využívající nástroje umělé inteligence bohužel dokáží vytvářet obsah, který může být pro nás nebezpečný. Příkladem jsou tzv. deep fake videa, která mohou lidi zmást a přimět k ukvapeným reakcím, například investování velkého množství peněz na základě falešných slibů o rychlém zbohatnutí od známých osobností. Jedinou účinnou obranou proti těmto rizikům je neustálé zvyšování mediální gramotnosti uživatelů internetu, a to nejen mezi mladými, ale i mezi staršími generacemi. Právě na tyto skupiny cílí nově vydaná publikace.
Projekt E-Bezpečí z Pedagogické fakulty Univerzity Palackého v Olomouci ve spolupráci s CEDMO (Středoevropská observatoř digitálních médií) při Univerzitě Karlově představuje tematickou příručku “Rizika spojená s umělou inteligencí pro seniory”.
Tato příručka poskytuje komplexní pohled na umělou inteligenci, její využití a potenciální rizika. Vysvětluje základní pojmy a principy fungování AI, popisuje její výhody a praktické přínosy v každodenním životě, například ve zdravotnictví, vzdělávání nebo zábavě. Zároveň upozorňuje na možná nebezpečí, jako jsou internetové podvody, šíření dezinformací, deep fake videa a narušení soukromí.
Rizika spojená s umělou inteligencí pro seniory
„Virtuální svět posledních let je doslova prorostlý nebezpečným obsahem, ke kterému patří např. různé druhy online podvodů, které zneužívají umělou inteligenci,” komentuje publikaci její hlavní autor prof. Kamil Kopecký z Pedagogické fakulty Univerzity Palackého v Olomouci a pokračuje: “Tisíce lidí přicházejí o své úspory, protože je investují do „zaručeně fungujících investičních produktů, ve kterých k nim promlouvá prostřednictvím deep fake videí známá osobnost (třeba prezident, expremiér, známý herec či zpěvák) a slibuje jim snadné zbohatnutí. Je to však jen podvod, fikce, výsledkem jsou obrovské finanční ztráty. Jedinou cestou, jak se stát před těmito riziky odolnými, je systematické vzdělávání a zvyšování mediální gramotnosti obyvatel. A právě na to je naše nová publikace zacílena.“
Anja Grabovac, projektová manažerka CEDMO, jej doplňuje: “Nástroje generativní umělé intelegence převážná většina české společnosti zatím nevyužívá. Z výsledků našeho průzkumu CEDMO Trends vyplývá, že tři čtvrtiny české populace starší 16 let nástroje generativní umělé inteligence nepoužívají vůbec. Zároveň víme, že existují velké diskrepance mezi věkovými skupinami; zatímco v případě mladších ročníků deklaruje pouze třetina respondentů nulové využívání nástrojů generativní umělé inteligence, ve věkové skupině nad 65 let se jedná až o 94 % respondentů. Obdobné rozdíly jsme zaznamenali i v případě zjišťování znalosti fenoménu deepfake videí, kdy pouze necelá třetina respondentů starší 65 let dokázala z nabízených odpovědí správně určit co je deepfake — tedy, že se jedná o zdánlivě reálný umělou inteligencí vytvořený obraz, video nebo zvuk něčeho, co se nezakládá na pravdě. Průzkum také poukazuje na velké rozdíly mezi povědomím o tom, co je deepfake mezi ženami a muži, kdy polovina dotázaných mužů odpověděla správně, zatímco u žen to bylo 32 %.”
Příručka se kromě deep fake videí a online podvodů zabývá také problematikou deep nudes, tedy tzv. svlékacích aplikací. Tyto aplikace představují vysoce nebezpečný trend, protože umělá inteligence integrovaná do webových nebo mobilních aplikací umožňuje komukoli vygenerovat z běžné fotografie fotografii obnaženou. Takto vytvořený obsah může být zneužit k vydírání, vyhrožování a dalším formám nátlaku.
Příručka zároveň poskytuje praktické rady a doporučení, jak se chránit před zneužitím AI. Nabízí přehled užitečných aplikací a nástrojů pro bezpečné využívání této technologie. V závěru publikace jsou uvedeny kontakty na organizace, které mohou poskytnout pomoc v případě potíží.
Příručka je zdarma ke stažení na webu E-Bezpečí.