Když AI způsobí škodu: Kdo ji uhradí a jak se bránit

Výběr nástroje: co si pohlídat, než se rozhodnete Při výběru nástroje se zaměřte na tři věci: integrace, vyhodnocování a flexibilitu. Nástroj musí umět komunikovat s vaším e-shopem – ideálně přes API, abyste mohli propojit objednávky, skladové zásoby a zákaznická data. Důležitá je i analytika: bez ní nezjistíte, které automatizace fungují a kde naopak zákazníci uvíznou. Vyhněte se nástrojům, které vyžadují složité programování – pokud to nejde ošetřit interně, budete závislí na dodavateli. Vždy si vyžádejte demo na vašich reálných datech. Nechte si ukázat, jak systém zpracuje typický dotaz, a testujte i okrajové případy, jako jsou překlepy nebo více otázek v jedné zprávě.

Automatizace účetnictví není o tom, že by software zcela nahradil účetního. Jde o to, aby rutinní operace – párování faktur, zaúčtování bankovních výpisů, kontrola DPH – probíhaly bez ručního přepisování. Tím se odstraní zdroj většiny chyb, které vznikají při opisování čísel z jednoho systému do druhého. Než začnete, zmapujte si tok dokladů: od příchodu faktury až po zaúčtování do hlavní knihy. Zjistěte, kde se data zadávají vícekrát, kde se musí přepisovat a kde dochází k nejčastějším rozdílům.

Prvním krokem je propojení bankovního účtu s účetním systémem. Bankovní výpisy se načítají automaticky a párují se s fakturami podle variabilních symbolů. Nezapomeňte nastavit pravidla pro nespárované platby – měly by se zobrazit v seznamu ke kontrole, ne se tiše uložit do pomocné evidence. Typickou chybou je, že se systém spáruje podle částky a data, ale ne podle konkrétního odběratele. Proto vždy ověřte, že variabilní symbol je unikátní a že jej dodavatelé skutečně používají.

Prakticky to znamená: před nasazením AI si zmapujte, jaká rozhodnutí systém dělá a kde může selhat. Zaměřte se na oblasti s vysokým dopadem – zdraví, finance, doprava, bezpečnost. U každého případu si písemně zaznamenejte, jak jste systém testovali, jaká data jste použili a jaké byly limity, které jste nastavili. Tato dokumentace je vaším hlavním důkazem, že jste postupovali s náležitou péčí. Bez ní se při sporu ocitnete v důkazní nouzi, protože soud se bude ptát, co jste v dané situaci mohli přiměřeně očekávat.

Než začnete automatizovat podporu, zmapujte si, jaké dotazy vám chodí nejčastěji. Rozdělte je na opakující se (stav objednávky, vrácení zboží, platební metody) a na ty, které vyžadují lidský zásah (reklamace, specifické požadavky, konflikty). Pro každou skupinu si připravte scénář. Pro opakující se dotazy využijte automatické odpovědi, ale vždy s možností přepojení na člověka. Pro složitější případy nastavte pravidla, která zákazníka nasměrují na správné oddělení. Tím získáte čas a současně zabráníte tomu, aby se roboti dostali do situace, kdy nerozumí kontextu.

Typickou chybou je automatizace bez testování na skutečných zákaznících. Než spustíte plný provoz, vyzkoušejte systém na malém vzorku. Pošlete zkušební zprávy, jaké by poslali lidé, a sledujte, jak robot reaguje. Často zjistíte, že nerozumí běžným frázím a místo pomoci posílá univerzální odpověď. Dalším častým přešlapem je příliš dlouhé čekání na přepojení – pokud zákazník musí čekat pět minut, raději mu hned nabídněte e-mail nebo zpětný hovor. A nezapomeňte na lidský dohled: automatizace má uvolňovat ruce, ne je úplně nahradit.

Nezapomínejte ani na pojištění. Běžná pojistka odpovědnosti z podnikání často pokryje jen škody způsobené lidskou chybou, nikoli selhání AI. Před podpisem pojistné smlouvy si ověřte, zda se vztahuje i na škody z provozu automatizovaných systémů. Pokud ne, sjednejte si připojištění nebo speciální pojistku pro kybernetická rizika. V opačném případě vám pojišťovna může odmítnout plnit s odkazem na vyloučení „škod způsobených technologiemi".

Provozujete chatboty, automatizujete výběr dodavatelů nebo nasazujete algoritmy pro oceňování majetku? Pak se vás týká otázka odpovědnosti za škodu, kterou AI způsobí. Zákon zatím neurčuje, že by stroj byl právnickou osobou – odpovědnost se tak vždy přenáší na člověka nebo firmu, která systém vyvinula, nasadila nebo řídí. Nejde o akademickou diskusi: soudy v Evropě už řeší první případy, kdy algoritmus doporučil nevýhodný úvěr, špatně nastavil cenu nebo poškodil pověst podniku.

Na co se zaměřit při výběru bezplatného řešení Gratis verze mívají omezení, která vás mohou při vyšším objemu zablokovat. Sledujte hlavně limity na počet faktur měsíčně a na velikost příloh. Některé systémy umí rozpoznat text pouze z PDF, jiné si poradí i s fotografií z mobilu. Vyzkoušejte, zda rozpozná českou diakritiku a zda správně přiřadí položky k existujícímu zákazníkovi. Špatné přiřazení vede k duplicitám a ke zbytečné ruční práci.