5 kroků, jak si postavit chatbota, který vydrží zátěž
Malé firmy často sahají po nástrojích, které třídí životopisy automaticky. Důvod je pochopitelný: desítky odpovědí na jeden inzerát a jen omezený čas na jejich pročtení. Jenže právě v malém prostředí, kde si lidé tykají a znají se osobně, může nasazení algoritmu narazit na etické hranice, které si málokdo předem uvědomí. Rozdíl mezi velkou korporací a malou firmou není jen v počtu uchazečů, ale hlavně v odpovědnosti za každé rozhodnutí.
Praktické nasazení začíná u jedné konkrétní činnosti, například u párování plateb. Po nasazení se sleduje, kolik objednávek projde bez zásahu a kde vznikají výjimky. Teprve podle reálných dat se přidávají další kroky. Snaha automatizovat vše najednou vede k nepřehlednému systému, ve kterém se chyba hledá jen velmi obtížně.
Na co se zaměřit při zavádění do provo
Nezbytnou součástí workflow je i zpětná vazba. Každá výjimka by měla být zaznamenána a pravidelně vyhodnocena. Často se ukáže, že stačí upravit formulář nebo doplnit kontrolní pravidlo. Automatizace není jednorázový projekt, ale průběžná údržba. Kdo ji bere jako hotovou věc, dřív nebo později narazí na situaci, kterou systém nezachytí.
Barvy jsou třetí past. Automatické vyvážení bílé selhává u smíšeného světla – žárovka plus denní světlo vytvoří oranžovo-modrý mišmaš. Nastavte vyvážení bílé ručně nebo použijte šedou kartu. Pokud to nejde, foťte v jedné teplotě světla a zbytek doladěte jemně. Příliš teplé fotky působí jako z jiné nemovitosti, příliš studené zase jako z kanceláře. Cílem je věrnost, ne atmosféra katalogu.
Data pro trénink nebo pro vyhledávání připrav jako čistý text. Odstraň duplicity, převedené tabulky a zbytky formátování. Pokud používáš vektorové vyhledávání, rozděl text na menší úseky a u každého uchovej zdroj. Bot, který neumí říct, odkud informaci vzal, ztrácí důvěru. U citlivých témat vždy přidej ruční kontrolu odpovědí. Nikdy nenech robota rozhodovat o penězích, zdraví nebo právních krocích bez člověka.
Nakonec si urči, kdy robota vypneš. Pokud nedokáže odpovědět na většinu dotazů nebo lidé opakovaně žádají člověka, je lepší přiznat limit a předat je dál. Chatbot nemá nahradit komunikaci, ale zkrátit čekání. Když držíš rozsah malý a měřitelný, zvládneš ho spravovat i sám.
Postavit chatbota dnes není otázka technického zázraku, ale rozhodnutí, co má vlastně dělat. Začni tím, že sepíšeš tři konkrétní úlohy, které má řešit, a k nim přiřadíš typické vstupy od uživatelů. Teprve pak hledej nástroj. Většina začátečníků udělá chybu v opačném pořadí: vyberou si knihovnu nebo platformu a snaží se do ní vměstnat nejasnou představu. Výsledkem je bot, který umí všechno a nic. Rozhodni také, zda poběží na tvém serveru, nebo využiješ hotovou službu. Lokální běh je levnější a soukromější, ale neseš odpovědnost za dostupnost.
Od jednoduchých pravidel k modelu První verzi postav na pravidlech. Stačí seznam klíčových slov a odpovědí, který zvládne i tabulka. Tím zjistíš, jaké dotazy lidé skutečně posílají, a odhalíš, kde pravidla selhávají. Teprve potom přidej jazykový model. Pokud začneš rovnou modelem, budeš ladit prompt místo logiky a nebudeš vědět, co je příčinou chyby. Při napojení modelu si nastav jasný systémový pokyn, teplotu a maximální délku odpovědi. Bez toho bude bot odbočovat a odpovídat příliš dlouze.
Testuj s lidmi, ne jen sám se sebou. Připrav sadu alespoň třiceti dotazů včetně překlepů, nesmyslů a dotazů mimo téma. Sleduj, jak často bot odmítne odpovědět a jak často si vymyslí. Zapisuj každou chybu i s kontextem, jinak ji nezopakuješ. Typické chyby: příliš dlouhý kontext, chybějící ošetření prázdného vstupu a spoléhání na to, že model vždy vrátí platný formát. Odpovědi vždy parsuj a při neplatném výstupu zavolej záložní variantu.
Nasazení není konec. Měř počet dokončených konverzací, průměrnou délku a místa, kde lidé odcházejí. Jednou za čas projdi staré rozhovory a aktualizuj znalostní texty. Verzuj prompty i data, ať můžeš vrátit změnu, která zhoršila výsledky. Pokud bot běží na veřejné adrese, nastav limity požadavků a loguj chyby. Provoz bez limitů je nejrychlejší cesta k výpadku.