Kdo zaplatí škodu po chybě umělé inteligence?

Kde se rizika ztrácejí mezi dokumenty Samotné vyhledávání v textu smlouvy je snadné. Skutečná hodnota vzniká až při propojení informací napříč dokumenty: rámcová smlouva, jednotlivé objednávky, dodatky a přílohy tvoří jeden celek a riziko často vzniká v jejich vzájemném rozporu. Nástroje, které umí pracovat pouze s jedním souborem, proto odhalí jen část problému. Při testování si připravte sadu případů, kde se podmínky mezi dokumenty liší, a sledujte, zda je nástroj najde a zda je schopen určit, která verze platí.

Při prokazování škody mějte připravený popis škodlivého následku v penězích i v jiných hodnotách, a doložte, že bez chyby AI by k němu nedošlo. Soudy v Česku i v EU stále častěji pracují s tím, že oběť nemá reálnou šanci nahlédnout do vnitřku modelu. Proto se vyplatí argumentovat nedostatkem bezpečnostních opatření na straně provozovatele a absencí dokumentace. Zajistěte znalecký posudek včas; dodatečné rekonstrukce chování modelu bývají nespolehlivé.

Podívejte se na strukturu. AI často vytváří odstavce o třech až pěti větách, každý začíná tématickou větou a končí shrnutím. Nadpisy bývají obecné a bez konkrétních detailů. Časté je opakování stejných spojovacích výrazů – „kromě toho", „dále", „v neposlední řadě". Lidský autor obvykle střídá délku vět, dělá vsuvky, občas odbočí a vrátí se. Pokud text působí jako přesně vyvážený výstup z šablony, projeďte ho pozorněji. Zkuste si přečíst nahlas – AI text často zní, jako by ho předčítal hlasatel.

Začněte tím, že si připravíte vzorek vlastních dokladů – fakturu vydanou, přijatou, účtenku a jeden méně přehledný sken. Nahrajte je do nástroje a zkontrolujte tři věci: zda nástroj správně rozliší odběratele a dodavatele, zda dopočítá daň ve vašem režimu a zda zachová číslo dokladu. Právě záměna stran a přehlédnutá sazba daně jsou nejčastější chyby, které se pak táhnou do evidence a při kontrole je dohledáváte ručně.

Nasazení umělé inteligence na kontrolu smluv a analýzu rizik vypadá jednoduše: nahrajete dokumenty, nástroj je přečte a označí problematická místa. V praxi většina projektů zkrachuje dřív, než se dostane k prvnímu výsledku, a to nikoli kvůli kvalitě modelu, ale kvůli vstupním datům. Smlouvy bývají naskenované, v různých jazycích, s ručně dopisovanými dodatky a nekonzistentním číslováním. Pokud tento stav nevyřešíte předem, sebelepší nástroj bude produkovat sebevědomě vypadající nesmysly.

Při zavádění postupujte po malých krocích. Vyberte jednu agendu, například dodavatelské smlouvy, a na ní ověřte celý řetězec od nahrání po výstup. Zkontrolujte, jak nástroj zachází s tabulkami, poznámkami pod čarou a odkazy, protože právě tam se ztrácí kontext. Výstupy vždy nechte potvrdit člověkem a zaznamenejte, kde se nástroj mýlil. Tyto záznamy jsou cennější než jakékoli srovnání funkcí, protože ukazují, kde je potřeba dohled a kde lze práci zautomatizovat.

Začněte tím, že si zmapujete, kdo měl systém pod kontrolou. Provozovatel, dodavatel modelu, ten, kdo data označoval, nebo uživatel, který zadal vstup? Provozovatel odpovídá za to, co se děje v jeho provozu — podobně jako za škodu z provozní činnosti. Pokud však škodu zavinil vadný výrobek nebo nedostatečně zabezpečený software, odpovědnost se přesouvá na dodavatele. Uložte si proto logy, verze modelu, záznamy o vstupech a výstupech. Bez nich se důkazní břemeno prakticky nedá unést.

Praktický postup při incidentu je krátký: zastavte provoz, zajistěte data, sepište časovou osu, informujte dotčené osoby a pojišťovnu, a teprve pak řešte, kdo zaplatí. Nezapomeňte na oznamovací povinnosti podle ochrany osobních údajů a kybernetické bezpečnosti. Dokumentaci veďte průběžně, ne až po škodě. A při zavádění systému si předem rozdělte role písemně: kdo schvaluje výstupy, kdo nese riziko a jak se řeší spory. Tím se většina problémů s odpovědností vyřeší dřív, než vzniknou.

Rozpoznat text vytvořený umělou inteligencí v běžné praxi není o hledání jednoho vodoznaku. Jde spíš o souhru několika signálů, které se opakují. AI modely mají tendenci k určité uniformitě – věty bývají vyvážené, odstavce pravidelně dlouhé, slovní zásoba široká, ale bez výrazných odboček. Když narazíte na text, kde každá věta plyne stejně hladce a nic nepřekvapí, je to první stopa. Pozor ale na žánry, které jsou od přírody uhlazené – například oficiální oznámení nebo popisy produktů. Tam samotná plynulost nic neznamená.

Prvním krokem tedy není výběr nástroje, ale inventura smluvního fondu. Zjistěte, kolik dokumentů je v digitální podobě s textovou vrstvou a kolik je pouhých skenů. U skenů je nutné projít OCR a následně zkontrolovat kvalitu přepisu, zejména u čísel, částek a odkazů na přílohy. Typická chyba je pustit OCR na celý archiv najednou a výsledek nikdy nezkontrolovat. Stačí přitom vzorek několika desítek dokumentů a ruční porovnání, abyste odhalili, zda přepis ztrácí klíčové pasáže.