AI Crunch Voice | České vývojářské studio Applifting pomáhá lokálním i globálním firmám inovovat, realizovat jejich nápady a vytvářet digitální produkty. Od analýzy přes validaci a UX design až po implementaci či testování. Podle žebříčku Deloitte Fast 50 za rok 2020 jde o osmou nejrychleji rostoucí firmu v České republice a 22. ve střední Evropě. V tomto rozhovoru si povídáme se spoluzakladatelem a CEO Appliftingu Vratislavem Kalendou o výhodách, výzvách, ale i trendech v integraci umělé inteligence.
Vráťo, jaký byl váš přístup k adopci AI v rámci vývoje aplikací?
AI jsme začali používat vlastně hned, co se objevil ChatGPT. Už jeho rané verze pomáhaly urychlit přípravu na schůzky i pomoct s brainstormingem. Když jsme viděli jeho přínosy, zavedli jsme používání AI napříč celou firmou a začali ji integrovat do produktů. Máme velmi dobrou zkušenost se zvýšením produktivity díky GitHub Copilot. Nově někteří naši programátoři začali používat Cursor.sh, což je editor, který umožňuje párové programování s LLM. Zatím si to naši lidé velmi pochvalují. Jejich efektivita práce tím stoupla zhruba o 30 %.
Jaké máte další zkušenosti s využitím AI ve vývojovém procesu ve vaší společnosti?
Předně je to již zmíněné zvýšení produktivity. Je obrovský rozdíl, když píšete stále stejný kód dokola, nebo vám základ vygeneruje AI za pár vteřin. Vedle toho taky hodně pomáhá s ověřováním a vymýšlením konceptů. Daleko rychleji zjistíte, jestli něco bude nebo nebude fungovat, a nemusíte složitě pátrat na internetu. Můžete si také nechat vygenerovat mockupy, UI a podobné věci na jednoduché a rychlé testování. Při párovém programování hned dostáváte feedback a vidíte, kde jste udělali chybu, co jste přehlédli a co by šlo udělat lépe. Člověk musí neustále ověřovat a nespoléhat se ze 100 % na AI. Stále je tu riziko nepřesností nebo halucinací.
Z ukázek práce vašeho týmu je zjevné, že máte mnoho klientů ve FinTech a HealthTech oblasti. Jaké aplikace Applifting vyvinul a jaké přínosy tyto řešení přinesly?
Vyzdvihnu asi dvě nejvýznamnější. Ne nutně velikostí zakázky, ale tím, co pro mne a pro firmu jejich vývoj znamenal. Jednak Foedus, nástroj, který umožňuje rychlou mezinárodní výměnu orgánů připravených na transplantaci. Od svého spuštění v roce 2013 už zachránil stovky životů. S tímto projektem jsme v Appliftingu vstoupili do odvětví healthtechu.
A pak BankID, což je platforma, která přinesla na český finanční trh robustní metodu digitálního ověření totožnosti. Díky ní se uživatelé mohou bezpečně přihlašovat do státní správy nebo ke komerčním subjektům pomocí své bankovní identity. Vývoj platformy byl obrovská výzva, protože šlo o jednu z největších IT zakázek v rámci ČR. Spolupracovali jsme celkem s 10 bankami i státní správou a na celý projekt měli méně než 12 měsíců.
Můžete pojmenovat výzvy při vývoji technologických řešení pro velké finanční instituce z hlediska integrace AI?
Velké finanční instituce podléhají řadě regulací a proto se nasazení umělé inteligence musí promyslet z hlediska různých předpisů. Například chatbot od banky nesmí doporučovat produkty třetích stran na základě informací z vašeho účtu. Další výzvu představuje bezpečnost. Skoro každý týden vychází nové vědecké práce o útocích na velké jazykové modely. Posledním příkladem z nedávné doby byl útok skrze škodlivý prompt zakódovaný v ASCII artu. To znamená, že nepovolené slovo se „nakreslí“ pomocí znaků, které dohromady tvoří písmena. Firmy musí stavět systémy tak, aby AI mělo stejná oprávnění jako zákazník a nebo zavést lidskou kontrolu při spouštění rizikových akcí AI agentem.
Jaké trendy v integraci AI vnímáte jako klíčové pro velké firmy?
Jednoznačně vede, a to platí napříč různými obory, nasazení AI do zákaznické podpory. Ukazuje se, že AI chatboti, když jsou implementováni správně, umí odbavit většinu požadavků zákazníků při zachování obdobné zákaznické spokojenosti. Pokud jsou požadavky na podporu složité, je někdy dobrým prvním krokem tzv „ghostwriting“ odpovědí za pomocí AI, kdy lidský pracovník pouze zkontroluje předpřipravenou odpověď od AI. Pro jednu velkou SaaS společnost jsme takto o 70 % zrychlili odbavování dotazů na jeho technické podpoře.
Dalším velkým trendem je trénování AI asistentů na interních dokumentech firmy. Novým, ale i stávajícím zaměstnancům pak asistenti dokáží poradit ohledně procesů a směrnic, případně pomohou s přípravou nabídek.
Co je hlavním omezením současného stavu umělé inteligence, se kterými se potýkáte ve vývoji?
Hlavním nedostatkem dnešních AI LLM modelů je především nepřesnost a jejich takzvané halucinace, jak jsem zmiňoval dříve. Sem tam se může AI mýlit, i když ji dáte přesné podklady v rámci kontextového okna nebo skrze vektorové databáze. To se dá částečně zmírnit například rozdělením požadavku na více dotazů. V konečné míře ale nezbývá než mít robustní arsenál testů a měřit procentuální úspěšnost. AI, stejně jako člověk, nebude mít vždy 100% úspěšnost. Kumšt je stavět AI produkty tak, aby určitá míra nepřesnosti nevadila.
Pomáháte nějak firmám, které si nejsou jisté s tím, kde začít s implementací AI?
Rádi poskytujeme nezávazné konzultace, které už u nás využilo několik desítek AI projektů. Obvykle jsme schopni zákazníky velmi rychle nasměrovat v tom, co by měly být jeho první kroky a kde leží největší rizika, které by bylo dobré mitigovat nebo jim rovnou předejít. Pokud z předběžné analýzy vyplyne, že je řešení technicky proveditelné, přistupujeme k produktové validaci za pomoci design sprintu.
Přibližte nám více zmíněný design sprint.
Design sprint používáme pro to, abychom společně se zákazníkem ověřili, že to, co chce vyvinout, budou chtít jeho uživatelé i používat. V rámci design sprintu jsme schopni během pěti dní jeho myšlenku validovat, vytvořit funkční prototyp a ten otestovat na reálných uživatelích. Zákazník má tím pádem velmi kvalitní zpětnou vazbu z trhu bez toho, aniž by utratil miliony za vývoj. Tím snižujeme rizikovost projektu pro zákazníka.
Podělte se závěrem o nejcennější lekce, kterou jste se naučili při integraci AI do vašich procesů a produktů?
Je potřeba začít s ověřením konceptu. Začněte s malou implementací, například využitím standardního AI modelu dostupného na trhu, a zjistěte, jak si vede. Díky tomu si ověříte, zda je vaše idea proveditelná, zda potřebuje daný model fine-tuning, nebo jestli byste museli nákladně vytrénovat svůj vlastní úplně od začátku. Našim klientům jsme ve dvou týdnech schopni takový AI prototyp postavit a projekt deriskovat po technologické i produktové stránce.
Tento obsah je součástí série AI Crunch Voice a vznikl ve spolupráci se společností Applifting.
