Ruční schvalování faktur, nebo automat: kde vzniká rozdíl
Nakonec nastavte kontrolu a odpovědnost. Automatizace neznamená, že nikdo nic nekontroluje. Určete osobu, která jednou týdně projde výjimky: nezaplacené faktury, neúspěšné odeslání, nespárované platby a ručně opravené doklady. Pokud výjimek přibývá, není problém v lidech, ale v nastavení. Dobře nastavená automatizace se pozná podle toho, že ručních zásahů ubývá a každý zásah má svůj důvod.
Automatické třídění životopisů pomocí algoritmů a umělé inteligence se stává běžnou praxí náborových oddělení. Zjednodušuje práci, ale zároveň přináší právní rizika, která je třeba znát a řídit. V České republice se na tuto oblast vztahuje zejména zákon o ochraně osobních údajů (GDPR) a antidiskriminační zákon. Pokud nástroj třídí uchazeče bez lidského dohledu, může dojít k nezákonnému zpracování osobních údajů nebo k diskriminaci. Proto je nutné mít jasně definovaný právní základ a transparentní postup.
Nasazení: od jedné stránky k celému e-shopu Začněte na jedné stránce, ideálně na té s nejčastějšími dotazy, a to na malém vzorku návštěvníků. Připravte si 20 až 30 testovacích dotazů včetně překlepů, hovorové češtiny a dotazů mimo téma. Sledujte, kolik odpovědí bylo správných, kolik jich bylo odmítnuto a kolik případů přešlo na člověka. Tento test opakujte po každé úpravě znalostní báze, jinak nepoznáte, zda změna pomohla, nebo uškodila.
U párování plateb si dejte pozor na variabilní symboly. Pokud je systém generuje jinak než ruční fakturace, platby se nespárují a vy budete mít v systému falešné nedoplatky. Ověřte, že variabilní symbol odpovídá číslu faktury a že banka posílá data ve formátu, který systém umí přečíst. Pro první měsíc porovnávejte výpisy ručně proti systému, i když to zdržuje. Odchylky odhalíte dřív, než se stanou pravidlem.
Typickou chybou je absence dokumentace. Zaměstnavatelé často nevedou záznamy o tom, jak algoritmus funguje, jaká kritéria používá a jak bylo zajištěno lidské posouzení. V případě kontroly ze strany Úřadu pro ochranu osobních údajů pak nemohou prokázat soulad s předpisy. Řešením je zavést interní směrnici, která popíše účel zpracování, právní základ, dobu uchovávání a způsob testování algoritmu na diskriminaci. Rovněž je vhodné uchovávat záznamy o rozhodnutích, která byla automaticky provedena, aby bylo možné zpětně vysvětlit, proč byl uchazeč vyřazen.
Než začnete vybírat konkrétní nástroj, spočítejte, kolik dotazů denně e-shop dostane a kolik z nich obsluha nestíhá. Zajděte do historie chatu a e-mailů za poslední měsíc, roztřiďte dotazy na opakující se (doprava, vrácení, velikosti, stav objednávky) a na ty, které vyžadují člověka. Z tohoto rozdělení vzejde zadání pro chatbota: má řešit rutinu a předávat zbytek. Bez tohoto kroku skončíte u nástroje, který umí všechno, ale ve vašem provozu nic.
Při výběru se ptejte na tři věci. Za prvé, odkud chatbot bere odpovědi – zda z vašich dokumentů a produktových dat, nebo z obecného modelu. Pokud z obecného, bude si vymýšlet a to je u zboží a reklamací nepřípustné. Za druhé, jak přesně předává konverzaci člověku a zda si operátor vidí celou historii. Za třetí, jak se chová, když odpověď nezná – správná reakce je přiznat neznalost a nabídnout kontakt, nikdy ne hádat.
Třetí zásada se týká lidí, kteří systém obsluhují. Nestačí zaškolit je jednou na začátku. Je potřeba pravidelně kontrolovat, jestli výstupy nepřebírají bez ověření, jestli si nevytvářejí zkratky typu „tenhle typ kandidáta nám nikdy neprojde" a jestli umí výsledek systému vysvětlit. Právě tady vzniká nejvíc etických problémů: ne v algoritmu, ale v rutině, kdy se doporučení přestane zpochybňovat. Zaveďte proto krátké pravidelné revize vzorku rozhodnutí a jasné pravidlo, že nejasný případ se vždy posuzuje ručně.
Závěrem lze říci, že automatické třídění životopisů může být užitečný nástroj, ale pouze za předpokladu, že je implementováno s ohledem na právní předpisy. Klíčové je transparentní informování uchazečů, pravidelná kontrola algoritmu na diskriminaci, minimalizace zpracovávaných údajů a zachování lidského dohledu nad konečným rozhodnutím. Bez těchto opatření se vystavujete riziku pokut a poškození pověsti.
Před spuštěním nastavte měření. Sledujte podíl konverzací bez zásahu člověka, počet předání, nejčastější nezodpovězené dotazy a to, zda z konverzace vznikla objednávka nebo jen návštěva. Podle těchto čísel upravujte obsah, ne podle dojmů. A na závěr: chatbota berte jako nástroj, který má uvolnit ruce lidem, ne jako náhradu za ně. Když po měsíci provozu operátoři neřeší méně rutinních dotazů, je něco špatně v zadání, ne v technologii.