Tento text je autorský článek Jana Řičici z DX Heroes | Jakou roli zaujímá AI v našem světě? V posledních letech prošla oblast umělé inteligence pozoruhodnou proměnou a nebývalým způsobem přetváří náš každodenní pracovní i soukromý život. Stala se významným tématem diskusí nejen mezi výzkumníky a vývojáři, ale také mezi zástupci všech myslitelných průmyslových odvětví, politiky nebo laické veřejnosti. Rychlý vývoj této technologie však s sebou přinesl také řadu etických, sociálních a ekonomických dilemat, která je třeba pečlivě prozkoumat a vyřešit.
Stejně jako se bavíme o možnostech využití AI, je třeba se zabývat také kritickými otázkami, které umělá inteligence vyvolává. Může se jednat o sociální, etické nebo ekonomické faktory. Stejně jako symboly jang a jin představují světlou a stinnou stránku věci, má rovněž umělá inteligence své světlé a stinné stránky. A měli bychom diskutovat o tom, proč je třeba tyto otázky řešit a jak to můžeme účinně provést.
Světlá strana AI
Umělá inteligence si rychle našla cestu do různých odvětví lidské činnosti, jako je například zdravotnictví (pozn. redakce: viz náš rozhovor s Carebot). Dnes jsou lékaři schopni provádět preventivní testy a data nahrát do počítače, kde je algoritmus umělé inteligence analyzuje a vygeneruje diagnózu s určitou mírou pravděpodobnosti. Například Clevelandská klinika v americkém Ohiu využívá AI k tomu, aby lékařům pomohla včas odhalit srdeční onemocnění. Klinika využívá systém poháněný umělou inteligencí nazvaný Eko, který analyzuje srdeční zvuky a odhaluje abnormality.
Kromě zdravotnictví mění umělá inteligence také vzdělávání, protože umožňuje personalizované učení, které se přizpůsobuje individuálním potřebám každého studenta. Adaptivní výukové systémy využívající AI pomáhají studentům učit se rychleji a lépe, protože jim poskytují obsah přizpůsobený jejich individuálnímu stylu učení. Tyto systémy jsou navrženy tak, aby se přizpůsobovaly a vyvíjely podle toho, jak studenti postupují, a zajišťovaly, že se jim dostane co nejvhodnější a nejefektivnější výuky. Mezi startupy využívající tyto technologie patří například britský Memrise, který díky strojovému učení personalizuje lekce na základě toho, co uživatel již zná. Uživateli následně pomáhá zapamatovat si novou slovní zásobu, fráze a systémy psaní.
Pozn. redakce: rozhovor se zakladatelkou vzdělávacího projektu jsme vydali dříve.
V neposlední řadě hraje umělá inteligence zásadní roli v technologickém průmyslu. Napomáhá nám odhalovat podvodné aktivity a kybernetické útoky a předcházet jim, což pomáhá udržovat naše data v bezpečí. Společnosti mohou tuto technologii využívat ke sledování velkého množství dat v reálném čase, identifikovat anomálie a rychle jednat, aby zabránily potenciálnímu narušení bezpečnosti. Vzhledem k tomu, že kybernetické hrozby se pořád vyvíjejí a jsou neustále sofistikovanější, jsou tato opatření nezbytná pro ochranu našich digitálních aktiv.
A co temný jin? Obavy o bezpečnost i změny na pracovním trhu
Rozvoj umělé inteligence má své přínosy v různých aspektech našeho života, ale musíme vzít v úvahu i potenciální negativní dopady. Jednou z největších obav je vytlačování pracovních míst. S tím, jak se stroje stávají inteligentnějšími a sofistikovanějšími, se v mnoha odvětvích zvyšuje potenciál nahradit lidské pracovníky, což může vést k rozsáhlým ztrátám pracovních míst a narušení ekonomiky. Na druhou stranu však může technologie nová pracovní místa vytvářet a přinášet příležitosti v jiných oblastech. Je tedy na společnosti, aby našla způsoby, jak tyto změny zvládnout a minimalizovat jejich negativní dopad.
Osobně mám největší obavy z možných bezpečnostních rizik. Systémy umělé inteligence mohou být zranitelné vůči hackerským útokům a jiným formám kybernetických útoků. Tyto útoky mohou vést ke krádeži citlivých informací nebo narušení kritických infrastruktur. V důsledku toho můžeme čelit závažným dopadům na jednotlivce i organizace, včetně finančních ztrát a narušení soukromí. Důsledky využívání umělé inteligence ke kybernetickým útokům nebo ve vojenských technologiích mohou být devastující.
Narušení soukromí a závislost na technologiích
Kromě toho se obávám možného zneužití osobních údajů v důsledku rostoucího množství informací, které systémy umělé inteligence o jednotlivcích shromažďují. A to včetně zaměstnanců, kteří mohou způsobit únik důvěrných dat při využívání ChatGPT a dalších AI modelů. Je proto nezbytné zabývat se důsledky takového shromažďování údajů a dopady na soukromí uživatelů i firem. Kromě toho využívání umělé inteligence v policejní činnosti, jak je vidět na příkladu Číny, která umělou inteligenci nasadila ke kontrole svých občanů, vyvolává obavy z vládního dohledu.
Zároveň se umělá inteligence stále více začleňuje do našich životů a může se tak snadno stát, že se staneme na technologii příliš závislí, což může vést ke ztrátě základních dovedností a znalostí. Například naše závislost na navigačních systémech GPS může způsobit, že zapomeneme, jak se orientovat pomocí tradičních metod, jako jsou mapy a kompasy, což by mohlo být problematické v situacích, kdy technologie selže nebo nebude k dispozici.
Zákazy jsou jen obcházení problému
Stejně jako může AI pomoci zkvalitnit výuku, staly se jazykové modely jako ChatGPT prakticky okamžitě nástrojem podvádění. Vzdělávací instituce se k jejich využívání stavějí různě, například Masarykova univerzita vydala stanovisko k využívání umělé inteligence obsahující pravidla a doporučení pro studenty i vyučující. V některých amerických školách je zase využívání obdobných nástrojů rovnou zakázáno. Je to do jisté míry Sophiina volba, protože tyto nástroje mají potenciál pomoci studentům zlepšit jejich dovednosti psaní a přinést do studia prvek zábavy. Modely mohou poskytovat zpětnou vazbu ohledně gramatiky, syntaxe a slovní zásoby a mohou vytvářet interaktivní zážitky pomocí chatbotů a virtuálních asistentů.
Pedagogové však mají z používání umělé inteligence ve třídě oprávněné obavy. Obávají se ochrany soukromí, bezpečnosti a také informačního zkreslení, kterého se algoritmy mohou dopustit. Před zavedením takových nástrojů do výuky je důležité zvážit obě strany mince. Podvádění je zásadní problém, protože studenti mohou ChatGPT používat k plnění úkolů, aniž látce skutečně rozumějí. To může poskytnout nespravedlivou výhodu a znehodnotit vzdělání.
Obecně však platí, že umělé inteligenci nemůžeme odolávat věčně. Velké společnosti jako Microsoft, Google či Cognigy již do integrace technologií podobných GPT do svých produktů vložily značné finanční prostředky a těžko lze očekávat útlum jejich snažení, právě naopak. Spíš než jít cestou plošných zákazů je lepší detailně chápat možné výhody a nevýhody používání AI nástrojů a porozumět, jak z těchto nástrojů v našich každodenních životech profitovat.
Tento text je autorský článek Jana Řičici z DX Heroes.
