Kontrola kvality s umělou inteligencí: kde selhává nastavení prahů

Nakonec sledujte výsledky průběžně, ne jednorázově. Sběr zpětné vazby od uživatelů, přehled odmítnutých dotazů a týdenní kontrola vzorků odpovědí odhalí problémy dřív, než se rozšíří. Když se kvalita začne zhoršovat, obvykle to znamená změnu ve vstupních datech, ne v modelu. Opravte data, znovu spusťte testovací sadu a teprve pak upravujte nastavení.

Porovnání dělejte na stejných datech. Vezměte jeden uzavřený měsíc a nechte každý nástroj zpracovat stejnou sadu dokladů. Sledujte počet chybně zaúčtovaných položek, počet položek, které musel člověk upravit, a čas strávený opravami. Zajímejte se také o to, jak nástroj řeší neúplné doklady: zda je umí odložit k doplnění, nebo je nutí zaúčtovat. U malé firmy je důležitější předvídatelné chování než velký seznam funkcí, které nikdo nepoužije.

Co má systém hlídat, aby se vyplat

Umělá inteligence v webu není kouzelná formule. Je to funkce jako každá jiná: něco přijímá, něco vrací a mezi tím běží proces, který může selhat. Než ji zapnete na produkčním webu, projděte si pět oblastí, které rozhodují o tom, zda bude přínosem, nebo zdrojem problémů. Týká se to chatbotů, doporučovacích modulů i automatického psaní textů.

Nakonec počítejte s tím, že ochrana nekončí uložením souboru. Stanovte lhůtu, po které se dokument smaže, a to včetně záloh a dočasných souborů. Pokud někdo požádá o výmaz nebo o informaci o zpracování, musíte být schopni dohledat, kde všude se údaje nacházejí. Dobře nastavený proces je ten, který zvládne odpovědět na tuto otázku bez hledání v e-mailech a bez spoléhání na paměť konkrétního zaměstnance.

Umělá inteligence v kontrole kvality není kouzelná skříňka, která sama pozná každou vadu. Funguje jako nástroj, který z fotky nebo signálu ze senzoru vyhodnotí pravděpodobnost, že díl odpovídá definici dobrého nebo špatného kusu. Rozhodující je proto to, co systému ukážete jako vzor a jak nastavíte hranici, od které už výrobek označí za zmetek. Právě tam vzniká většina problémů, které provoz později bolí víc než samotná technologie.

U automatických odpovědí dávejte pozor na dvě věci. Za prvé nastavte, aby se neodesílala každému, kdo vám napíše dvakrát, jinak vznikne smyčka. Za druhé text odpovědi pište konkrétně: co jste přijali, co se stane dál a do kdy. Vyhněte se frázím typu „váš e-mail byl doručen" bez dalšího obsahu. Pokud odpověď posíláte mimo pracovní dobu, uveďte to v textu, ne jen v podpisu.

Kdy stačí pseudonymizace a kdy už ne Pseudonymizace nahradí identifikátory kódem a původní údaje uloží odděleně pod jiným přístupovým režimem. Data pak zůstávají osobními údaji a vztahuje se na ně plná ochrana. Tento postup se hodí tam, kde potřebujete dokument zpracovávat opakovaně a spojit záznamy stejné osoby, ale nechcete pracovat s jejím jménem. Naopak pokud má dokument sloužit k analýze, výzkumu nebo předání třetí straně bez dalšího vztahu k osobě, je nutná skutečná anonymizace, u které musíte ověřit i možnost zpětného dohledání z kombinace zbývajících polí.

Prakticky se osvědčuje postupovat od hrubého filtru k jemnému. Nejprve odstraňte přímé identifikátory: jména, rodná čísla, adresy, telefonní čísla, e-maily a čísla účtů. Potom projděte nepřímé: data narození, přesné časy, názvy malých obcí, konkrétní pracovní pozice, volný text ve poznámkách. Právě volný text bývá největší past, protože obsahuje informace, které nikdo neočekával. Nakonec zkontrolujte metadata souboru, revizní historii a skryté listy v tabulkách.

Než začnete cokoli mazat, zmapujte tok dokumentu. Zjistěte, kdo ho vytváří, kdo ho potřebuje vidět, kde se ukládá a jak dlouho. Teprve z toho vyplyne, které položky lze odstranit a které musí zůstat. Typická chyba je plošné začernění rodného čísla, aniž by někdo zkontroloval, že stejnou osobu lze dohledat podle kombinace data narození, adresy a čísla smlouvy. Anonymizace znamená, že identifikace není možná ani nepřímo; pouhé nahrazení jména iniciálami to nesplňuje.

Typická chyba je příliš mnoho pravidel najednou. Lidé vytvoří dvacet filtrů, pravidla se navzájem překrývají a důležitá zpráva skončí ve složce, kterou nikdo neotevírá. Začněte třemi až pěti pravidly, která pokryjí nejčastější případy, a po dvou týdnech je zkontrolujte. Další častá chyba je automatická odpověď bez data a bez informace, kdy odpovíte. Zákazník pak neví, zda zpráva vůbec dorazila.

Automatizace má smysl až ve chvíli, kdy z e-mailu vznikne úkol Přesun do složky sám o sobě nic neřeší, pokud se do ní nikdo nepodívá. Napojte proto poštu na nástroj pro správu úkolů nebo na tabulku, kde se z každé zprávy vytvoří záznam s termínem. U dotazů na cenu nastavte odpověď, že zpráva byla přijata, a přiřaďte ji konkrétnímu člověku. U faktur stačí pravidlo, které zprávu označí a přidá připomínku ke dni splatnosti. Tím se ztrácí méně zpráv a každý ví, co má udělat.