Jak uvažuje Bill Gates, spoluzakladatel Microsoftu a jeden z nejbohatších lidí na světě, nad budoucností umělé inteligence, a zejména možnými riziky? Přinášíme vám přepis jeho zamyšlení.
Problémy s umělou inteligencí a vývoj do budoucna
Pravděpodobně jste již četli o problémech se současnými modely umělé inteligence. Například ne vždy dobře chápou kontext lidského požadavku, což vede k podivným výsledkům. Když požádáte umělou inteligenci, aby si vymyslela něco smyšleného, může to udělat dobře. Když ji ale požádáte o radu ohledně výletu, který chcete podniknout, může vám navrhnout hotely, které neexistují. Je to proto, že umělá inteligence nerozumí kontextu vašeho požadavku natolik dobře, aby věděla, zda má vymyslet falešné hotely, nebo vám říct jen o těch skutečných, které mají volné pokoje.
Existují i další problémy, například umělá inteligence dává špatné odpovědi na matematické úlohy, protože má problémy s abstraktním uvažováním. Nic z toho však není zásadním omezením umělé inteligence. Vývojáři na nich pracují a myslím, že se jich z velké části dočkáme do dvou let a možná i mnohem rychleji.
Obavy ohledně využití umělé inteligence a rizika pro společnost
Další obavy nejsou jen technického rázu. Je tu například hrozba, kterou představují lidé vyzbrojení umělou inteligencí. Stejně jako většina vynálezů může být umělá inteligence využita k dobrým nebo zlým účelům. Vlády musí spolupracovat se soukromým sektorem na způsobech, jak tato rizika omezit.
Pak je tu možnost, že se umělá inteligence vymkne kontrole. Mohl by se stroj rozhodnout, že lidé představují hrozbu, a dojít k závěru, že jeho zájmy jsou jiné než naše, nebo se o nás prostě přestat zajímat? Je to možné, ale tento problém dnes není o nic naléhavější než před vývojem umělé inteligence v posledních několika měsících.
Superinteligentní umělá inteligence a otázky budoucnosti
Superinteligentní umělé inteligence jsou naší budoucností. Ve srovnání s počítačem pracuje náš mozek hlemýždím tempem: Elektrický signál v mozku se pohybuje 1/100 000 rychlosti signálu v křemíkovém čipu! Jakmile vývojáři dokážou zobecnit algoritmus učení a spustit ho rychlostí počítače – což může být úspěch za deset let nebo za sto let – budeme mít neuvěřitelně výkonnou AGI. Bude schopna dělat vše, co lidský mozek, ale bez praktických omezení velikosti paměti nebo rychlosti, kterou pracuje. To bude zásadní změna.
Tato „silná“ umělá inteligence, jak se jí říká, bude pravděpodobně schopna stanovit si vlastní cíle. Jaké tyto cíle budou? Co se stane, pokud budou v rozporu se zájmy lidstva? Měli bychom se snažit zabránit tomu, aby silná umělá inteligence vůbec vznikla? Tyto otázky budou časem stále naléhavější.
Žádný z průlomových objevů posledních několika měsíců nás však k silné umělé inteligenci podstatně nepřiblížil. Umělá inteligence stále neovládá fyzický svět a nemůže si stanovit vlastní cíle. Velkou pozornost vzbudil nedávný článek v New York Times o rozhovoru s ChatGPT, v němž prohlásila, že se chce stát člověkem. Byl to fascinující pohled na to, jak moc se projevy emocí modelu mohou podobat lidským, ale není to ukazatel smysluplné nezávislosti.
Mé vlastní uvažování na toto téma formovaly tři knihy: Superinteligence od Nicka Bostroma, Život 3.0 od Maxe Tegmarka a Tisíc mozků od Jeffa Hawkinse. Nesouhlasím se vším, co autoři říkají, a nesouhlasí ani mezi sebou. Všechny tři knihy jsou však dobře napsané a nutí k zamyšlení.
Kompletní znění v původním znění najdete na adrese: https://www.gatesnotes.com/The-Age-of-AI-Has-Begun
