Když chatbot na webu selže, kdo odpovídá za škodu?
Nasazení predikce má smysl jen tehdy, když na ni naváže konkrétní akce. Typická chyba: tým dostane čísla, ale nikdo nezmění objednávky u dodavatele. Výstupem modelu by měly být doporučené objemy na příští týden nebo měsíc, případně signál k přesunu zboží mezi sklady. Pokud se predikce neshoduje s realitou, porovnejte, co se změnilo – nová kampaň, jiná cena dopravy, výpadek platební brány.
Druhým pilířem je ochrana osobních údajů. Nikdy nezadávejte do promptů celá jména, adresy, rodná čísla, čísla účtů ani jiné citlivé údaje, pokud k tomu nemáte výslovný souhlas a zabezpečené prostředí. AI nástroje často ukládají historii dotazů a mohou je použít pro další trénink. Anonymizujte vstupy – místo konkrétního jména použijte „zákazník A", místo adresy jen město. Pokud potřebujete AI použít pro personalizovanou odpověď, nechte citlivá data doplnit až v interním systému, ne v samotném dotazu.
Základem je nastavit pravidla pro vstupní data. Pokud přijímáte faktury v PDF, zaveďte povinné položky, které musí být vždy vyplněny – číslo dokladu, datum, částku, DIČ. Automatizovaný nástroj pak může porovnat, zda součet položek odpovídá celkové částce, zda datum není mimo zdaňovací období a zda DIČ odpovídá formátu. Bez těchto kontrol se chyby jen přesunou z papíru do databáze.
Kdy vzniká odpovědnost a co musíte udělat Odpovědnost vzniká ve chvíli, kdy chatbot poskytne zavádějící informaci, uzavře nevýhodnou smlouvu nebo způsobí škodu. Typicky jde o chybnou cenu, dostupnost zboží, lhůtu dodání nebo podmínky reklamace. Abyste riziko snížili, nastavte jasná pravidla: chatbot musí vždy uvést, že je automat, nesmí potvrzovat právní úkony bez výslovného schválení člověkem a u citlivých dotazů musí nabídnout přepojení na operátora. Zároveň veďte logy o tom, co chatbot odpověděl, a to včetně časového razítka. Bez logů se v případném sporu jen těžko prokazuje, co se skutečně stalo.
Druhým častým problémem je kvalita vstupních dat. Automatizovaný přenos mezi systémy selže, když jeden používá jiný formát data nebo jiný číselník položek. Před spuštěním je vhodné udělat kontrolní vzorek a porovnat, kolik záznamů projde bez zásahu člověka. Pokud je chybovost vysoká, nemá smysl řešit rychlost — nejdřív je třeba sjednotit číselníky a povinná pole.
Porovnávejte celkovou cenu, ne jen cenu produk
Praktický postup: nejprve zmapujte, kde v současnosti chyby vznikají – zda při přepisu, při zaokrouhlování, nebo při párování plateb. Poté zaveďte automatické kontroly pro každé z těchto míst. Například po importu faktur spusťte kontrolní sestavu, která vypíše řádky s chybějícím DIČ, nesouhlasícím součtem nebo duplicitním číslem. Teprve když je sestava prázdná, považujte data za připravená k dalšímu zpracování.
Ruční přepis faktur do účetního systému je zdrojem chyb, které se odhalí až při uzávěrce. Automatizace procesu s kontrolou chybovosti neznamená jen ušetřit čas, ale především zachytit nesrovnalosti dřív, než se dostanou do výkazů. Rozdíl mezi oběma přístupy není v rychlosti, ale v tom, kde a kdy se chyba objeví.
Posledním krokem je měření. Bez čísel nelze poznat, zda automatizace něco přinesla. Sledujte počet ručních zásahů, dobu zpracování jednoho případu a počet chyb před nasazením a po něm. Vyhodnocení dělejte po několika týdnech provozu, ne hned první den, kdy se lidé ještě učí. Pokud se výsledky nezlepší, je lepší automatizaci upravit nebo vypnout než ji držet z setrvačnosti.
Kontrola chybovosti: párování a logické vazby Automatizace sama o sobě negarantuje správnost. Klíčové je nastavit párovací logiku. Například příjem z banky by měl být spárován s konkrétní fakturou vydanou nebo přijatou. Pokud se částka neshoduje, systém označí transakci k ruční kontrole. Stejně tak je nutné hlídat duplicity – stejné číslo dokladu nebo stejná částka ve stejném dni může znamenat, že byl záznam načten dvakrát.
Do budoucna se vyplatí omezit rozsah, v jakém chatbot rozhoduje sám. Nadefinujte scénáře, kdy musí vždy zasáhnout člověk – stížnosti, reklamace, právní dotazy a cokoliv, co se týká peněz. Pravidelně kontrolujte, jak chatbot odpovídá, a to i náhodným testováním. Pokud používáte generativní model, nastavte mu jasné mantinely a zakázané odpovědi. Pamatujte, že odpovědnost nelze přenést na technologii. Zůstává na firmě, která chatbot na svém webu provozuje.
Chatbot na firemních stránkách není jen technická vychytávka. Jakmile začne komunikovat se zákazníky, stává se součástí obchodního procesu a jeho výstupy mohou mít právní následky. Odpovědnost nese především provozovatel webu, tedy firma, která chatbota nasadila. Dodavatel technologie může nést odpovědnost smluvní, ale vůči zákazníkovi odpovídá vždy firma, jejíž jméno je na stránkách. To platí i v případě, že chatbot odpoví nesprávně nebo neuvede, že jde o automat.