Home Zprávy Etika a morálka. Co skrývá svět AI?

Etika a morálka. Co skrývá svět AI?

by Redakce
Jana Večerková

Tento text je autorským článkem Jany Večerkové | Dokážete si představit, že byste měli například v práci pracovat zcela bez počítače a chytrého telefonu? Pokud vaše odpověď zněla „ne“, jste tu správně. Technologický průmysl denně čelí složitým otázkám zaměstnanců, zákazníků, členů komunit a médií, kteří mají skutečné obavy týkající se soukromí, masového sledování, neobjektivní umělé inteligence a mnoho dalších faktorů. Tyto obavy mohou mít vážné důsledky pro podnikání, a proto je vždy nutné včas a rychle minimalizovat nežádoucí rizika. V tomto článku se podíváme na nejčastěji diskutovaná témata spojená s problematikou etiky v IT a čemu je potřeba věnovat zvýšenou pozornost při spravování osobních dat.

Reflektování hodnot v IT produktech

První a zásadní otázkou k zamyšlení je, zda naše IT produkty a technologie odrážejí hodnoty, které bychom rádi viděli v naší společnosti. Vývojáři a tvůrci technologií by měli být uvědomělí a zaměření na to, jak jejich produkty ovlivňují každodenní životy lidí. Jejich zodpovědnost nespočívá pouze v technickém vývoji, ale také v tom, jak tyto technologie ztvárňují společenské hodnoty.

Dalším důležitým aspektem je bezpečnost a spolehlivost technologií. Zabezpečení IT produktů a služeb je stále naléhavějším problémem v digitálním světě, jelikož s nárůstem kybernetických hrozeb a útoků se zvyšuje i potřeba ochrany osobních údajů a citlivých informací. Mnoho vývojářů proto volí koncept „etického návrhu“, anglicky Ethics by Design, ve kterém zohledňuje faktory bezpečnosti, spolehlivosti a etiky už od samého začátku. V roce 2018 provedla americká společnost Salesforce  výzkum o etickém vedení a podnikání, který prozradil, že 90 % spotřebitelů věří, že společnosti mají povinnost zlepšovat stav světa, a 86 % spotřebitelů je loajálnějších k etickým společnostem.

Uplatňování etických norem v IT

K problematice, jakým způsobem by měly firmy a jednotlivci pracující v IT uplatňovat etické normy ve svém každodenním chování a rozhodování, se přímo vyjadřuje Jana Večerková, zakladatelka a ředitelka intenzivních kurzů programování Coding Bootcamp Praha:

Prvním krokem je uvědomění. To znamená, že lidé pracující v kyberprostoru by měli mít přístup k etickému vzdělávání a osvětě, která by je učila rozpoznávat a řešit etické otázky. Firmy by měly investovat do školení svých zaměstnanců v oblasti etiky v IT a motivovat je k diskuzím o etických tématech. Tím může dojít k většímu uvědomění a zodpovědnosti v každodenním rozhodování. Druhým krokem je důkladné zvažování firmami ohledně možných dopadů dané technologie a aktivní snahu minimalizovat rizika, jako jsou narušení soukromí, diskriminace a nekalá soutěž.

Jaké je riziko zneužití biometrických údajů?

Biometrie, jako jsou otisky prstů a rozpoznávání obličeje, se zdají být bezpečným způsobem ochrany údajů, ale riziko zneužití těchto údajů je vysoké. Ztráta biometrických údajů nebo jejich padělání může mít závažné důsledky, protože jejich změna není zdaleka tak jednoduchá jako změna hesla. I přes rostoucí obavy ohledně skladování biometrických údajů si řada lidí tato rizika neuvědomuje a slepě důvěřuje dosavadnímu ochrannému systému v zařízení. Pokud jsou tyto informace pro vás novinkou, věnujte jim zvýšenou pozornost při správě zabezpečení svých zařízení.

Rychlá digitalizace a etické otázky

Na rychlý technologický vývoj, zejména v oblasti umělé inteligence a automatizace, se pojí také diskuse o jeho přínosech a hrozbách. „Rychlá digitalizace, kterou vidíme v posledních letech, otevřela diskuse o autonomii strojů a rozhodování, zodpovědnosti za chyby v automatizaci, a ochraně soukromí a bezpečnosti dat. Je to dvojsečná zbraň; vývoj IT může být jak nástrojem pro zlepšení našeho života, tak i potenciální hrozbou, pokud se etické otázky neřeší adekvátně a včas,“ říká Jana Večerková, zakladatelka a ředitelka intenzivních kurzů programování Coding Bootcamp Praha.

Jana Večerková
Jana Večerková, zakladatelka a ředitelka Coding Bootcamp Praha. Autor: Coding Bootcamp Praha

V souvislosti s prosperujícími technologiemi bychom se také mohli bavit o regulaci dezinformací ze strany chatbotů, kde se jako rozumný krok jeví implementace pravidel a filtrů obsahu, který pomůže omezit šíření dezinformací a neetických materiálů. Pokročilejší chatboti pak mohou být trénováni tak, aby sami neposkytovali nevhodný obsah. Nicméně definice toho, co je nevhodné, zůstává otázkou diskuse.

Jaká je tedy budoucnost kyberbezpečnosti?

S rostoucími hrozbami v kyberprostoru a stále se vyvíjejícími technikami útoků bude budoucnost kyberbezpečnosti záviset na neustálém vývoji technologií a strategií, aby udržela krok s rychle se měnícím kyberprostorem. Mezi klíčové nástroje budou jednoznačně patřit umělá inteligence a strojové učení, které budou moct posílit schopnost detekce obrany proti kybernetickým hrozbám. „Výsledek této činnosti pak může být rovnou aktivní zabránění dané hrozbě nebo rychle zpracovaný podklad pro zodpovědné lidské aktéry,“ uzavírá Jana Večerková, zakladatelka a ředitelka intenzivních kurzů programování Coding Bootcamp Praha.

Tento text je autorským článkem Jany Večerkové.

Číst dále

©2024 AI Crunch