5 věcí, které rozhodují, kdo platí škodu po selhání AI

Prvním krokem je inventura. Vezměte poslední tři měsíce a spočítejte, kolik hodin padlo na nábor, evidence dovolených, přípravu smluv, nástupy a výstupy, školení a reporty pro vedení. U každé činnosti si poznamenejte, kolik kroků obnáší a kdo je schvaluje. Zjistíte, že většina rutiny se točí kolem sběru dat a jejich přepisování mezi systémy. Právě tam se automatizace vyplatí nejdřív. Naopak pohovory, hodnocení nebo řešení konfliktů zůstávají na lidech – těm se automatizace vyhýbá.

Než obrázky nahrajete, projděte si je na mobilu i na počítači. Zkontrolujte, zda jsou detaily ostré, zda textury nejsou uměle vyhlazené a zda pozadí nelichotí produktu. Testujte, které snímky vedou k vyšší konverzi, a postupně nahrazujte ty, které zákazníky odrazují. Generování je nástroj, ne náhrada za pravdu. Nejlepší výsledek vzniká kombinací skutečné fotografie a cílené úpravy, ne snahou o dokonalou iluzi.

Čeština je pro jazykové modely náročnější než angličtina. Volné tvary slov, diakritika a časté překlepy znamenají, že model bez doladění nerozpozná ani jednoduché varianty dotazu. Otestujte proto každý záměr na deseti až dvaceti přepisech, včetně chyb, hovorových výrazů a nespisovných koncovek. Pokud bot nerozumí, nesmí hádat. Správné chování je požádat o upřesnění nebo nabídnout spojení s člověkem. Nic nepoškodí důvěru tak rychle jako sebevědomá nesprávná odpověď.

Když systém založený na umělé inteligenci způsobí škodu, první otázka zní, kdo za ni odpovídá. České právo nemá zvláštní zákon o AI, použije se proto obecná úprava občanského zákoníku o odpovědnosti za škodu a o odpovědnosti za provoz. Rozhoduje přitom povaha systému, míra lidského dohledu a to, zda šlo o vadu, nebo o běžné provozní riziko.

Zásadní je rozlišení, zda AI funguje autonomně, nebo jen jako nástroj v rukou člověka. Pokud obsluha zadá vstup, schválí výstup a má možnost jej zastavit, odpovídá zpravidla ona nebo její zaměstnavatel. U plně autonomního systému, který sám rozhoduje bez možnosti zásahu, se odpovědnost přesouvá na provozovatele. Typická chyba je domnívat se, že za všechno může „výrobce AI". Výrobce odpovídá za vadu, ne za každý důsledek použití.

Častá chyba je snaha naučit chatbota všechno najednou. Nasaďte ho nejdřív na jednu agendu, ideálně na stav objednávky, a teprve po dvou až třech týdnech provozu přidávejte další. Zapisujte si všechny dotazy, na které robot neuměl odpovědět, a každý týden je doplňujte. Zároveň nastavte měření: kolik konverzací skončilo vyřešením, kolik přepnutím na člověka a kolik odchodem zákazníka. Bez těchto čísel nelze poznat, zda nástroj pomáhá, nebo jen zabírá místo.

Nakonec si hlídejte, kdo za výstupy odpovídá. Automatika vystaví doklad, ale za správnost daně a účetnictví ručí pořád člověk. Nastavte kontrolní kroky: jednou týdně projděte vzorek vystavených faktur a jednou měsíčně porovnejte součty v systému s účetnictvím. Zavedením těchto tří věcí – čistých vstupů, propojení s bankou a lidské kontroly – získáte fakturaci, která se sama postará o rutinu a vám zůstane jen rozhodování.

Co si písemně ošetřit ještě před nasazením Smlouva s dodavatelem má řešit tři věci: rozsah odpovědnosti za vady, povinnost dokumentovat rozhodnutí systému a způsob náhrady při škodě. Bez toho se při sporu těžko prokazuje, kdo pochybil. Užitečné je vést záznamy o vstupech, výstupech a verzích modelu, protože bez nich nelze zpětně zjistit příčinu. Pozor na doložky, které odpovědnost dodavatele omezují jen na opravu software. Takové ustanovení vás nechá nést následky samotné.

U vysoce rizikových aplikací, například ve zdravotnictví nebo v dopravě, se odpovědnost posuzuje přísněji. Provozovatel má povinnost zavést přiměřená opatření a mít plán pro případ selhání. Pokud je systém nasazen bez testování a bez záložního režimu, soud to může hodnotit jako nedbalost. Naopak pečlivá dokumentace a pravidelný audit snižují riziko, že odpovědnost padne na vás.

Zapamatujte si: odpovědnost neurčuje název technologie, ale míra kontroly a prokazatelná péče. Kdo umí doložit, jak systém fungoval a kdo rozhodl, má při sporu výhodu. Kdo spoléhá na to, že „to vyřeší umělá inteligence sama", nese následky zpravidla sám.

Kde se automatizace láme a jak to poznat Nejčastější chyba je nasadit nástroj na neuspořádaná data. Když máte tři různé evidence zákazníků a dva způsoby číslování dokladů, žádná automatika to nespasí. Nejdřív sjednoťte číselné řady, měny a sazby. Dále pozor na daňové výjimky: přenos daňové povinnosti, osvobozená plnění nebo reverse charge musí být v systému nastavené předem, jinak vám nástroj vystaví doklad se špatnou daní a oprava je dražší než ruční práce. Před ostrým během udělejte testovací období na vzorku faktur a porovnejte výsledky s ručním zpracováním.