AI proniká do všech možných i nemožných oblastí lidského konání

Používají ji všichni a tak ani my nemůžeme zůstat mimo, pomyslí si nejeden CEO, protože přeci kdo chvíli stál, za chvíli stojí opodál.

Jasně, jenže pak zjistíme, že největší problém není, zda vůbec AI začít používat, ale kde a jak nastavit pravidla. Protože AI se dá nasadit skoro kdekoliv. Otázka ovšem je, co to udělá s firmou, když ji nacpeme i tam, kde se vůbec, ale vůbec nehodí. A přesně tady to začíná.

Agilní AI ambasadoři a konzultanti

Netřeba opakovat, že rozhodnutí CEO často ovlivňují nejrůznější konzultanti a nyní už i agilní „AI šampioni“. Šmejdí jak fretky po celé firmě, zanalyzují vám každý proces a zoufale hledají, kam by se AI ještě dala nacpat, protože na to přece mají ten nástroj.

Zpočátku se AI nasazuje jako o život a jsou dokonce i vidět okamžité úspory. Jenže pak to začne drhnout. Jak jinak. Výsledky už nejsou tak ohromující, začnou se řešit prkotiny a tlak na „další AI“ roste. A v tu chvíli nastává klasika: když máme v ruce kladivo, všechno začne vypadat jako hřebík.

A aby toho nebylo málo, někde si k tomu ještě pořídili drahý HW, aby rozjeli lokální modely, a je tak potřeba GPU, servery, storage, chlazení, prostě AI infrastruktura. Když už jsme to koupili, tak se to přece musí vrátit. A tak si začneme vyprávět, že to „musíme víc adoptovat napříč firmou“, že „potřebujeme další use-casy“ a že „to chce jen víc dat a víc integrací“. A tak začneme i týmy hodnotit podle počtu implementací.

Investovali jsme do toho. Tak se to přece musí vrátit

A do toho přijde ještě jedna věc „AI transformace“. Rozuměj už jsme do toho nasypali peníze, nakoupili licence, zaplatili konzultanty, poslali lidi na školení, uspořádali AI konferenci, a možná založili i nějaký „AI excellence hub“. A protože první úspory byly rychlé, navnadilo nás to. Vypadalo to, že ROI je jasné.

Jenže návratnost investice se v čase začala zhoršovat. Tempo inovací už není tak rychlé. Najednou neřešíme velké věci, ale prkotiny: proč to jednou odpoví tak a podruhé jinak, proč to halucinuje, proč to naráží na právo, na data, na bezpečnost. A bublina pomalu splaskává. Jenže my si to nechceme přiznat, protože už je v tom příliš investováno. A hlavně nechceme vypadat jako blbci. Ach to ego.

Tím se dostaneme do fáze, kdy AI neřešíme jako nástroj na konkrétní problémy, ale jako investici, kterou musíme obhájit. A přesně v téhle fázi ji začneme cpát i tam, kde se vůbec nehodí.

Špatný proces po AI zůstane špatný. Jen rychlejší

AI není kouzlo. Když máme špatně nastavený proces, AI ho nespraví. Špatný proces po AI zůstane špatný, jen se zrychlí. A tím se zrychlí i škody.

Co dřív dělal jeden člověk blbě a pomalu, tak to teď udělá blbě a rychle AI. Chyby se začnou hromadit, začnou se šířit dál do dalších týmů a na konci řetězce bude víc lidí nespokojených, víc reklamací, víc eskalací. Ne proto, že by AI chtěla škodit, ale protože jsme zautomatizovali bordel. Už jsem to říkal před pár lety u robotizace a RPA a říkám to i teď, nejprve je třeba provést reinženýring procesů. A uvědomit si, že jsou oblasti kam bychom vůbec AI neměli pustit.

Právo, smlouvy a pracovněprávní vztahy

Všude, kde to smrdí právem, bacha. Zákony a smluvní povinnosti se nedají vykládat podle nálady. Ano, právní výklad může být sporný. Ale to neznamená, že si ho má „vymyslet“ model podle toho, co se mu zrovna jeví jako nejpravděpodobnější.

Když se o právní výklad budeme pokoušet s AI, tak nám to pak vysvětlí soudce. A vysvětlí nám to až ve chvíli, kdy nás někdo zažaluje.

Totéž pracovněprávní věci. Výpovědi, sankce, interní předpisy, povinnosti zaměstnavatele. AI nám klidně sepíše text, který vypadá „právně“. A pokud ho vezmeme tak jak je a pošleme ven, je zaděláno. A pak přijde průšvih.

Peníze a výpočty

Stejně tak všude, kde se počítají peníze. Faktura, sleva, úrok, DPH, penalizace, vyúčtování, výpočet mzdy, ceník. Tady nechceme kreativitu. Chceme, aby stejný vstup dal vždycky stejný výstup. Ne že to jednou vyjde takhle a podruhé jinak, protože si model „připomněl“ něco z trénovacích dat.

A když se to jednou nepovede a někomu pošleme špatnou částku, tak nám to někdo vysvětlí. Auditor, finančák, zákazník. A bude to stát čas, peníze a reputaci.

Dokumentace k výrobku, návody, instrukce

Návody, bezpečnostní upozornění, limity použití, postupy. AI si umí zahalucinovat i úplnou blbost, ale napsanou tak hezky, že tomu někdo uvěří. A někdo se podle toho zařídí.

Když se to rozbije, tak to ještě bereme. Jenže ono se to někdy nerozbije „jen“. Někdy z toho vznikne úraz. Někdy smrt. A v tu chvíli už nikoho nezajímá, že to „byl jen návrh“.

A to je mimochodem důležité pravidlo: AI může dát návrh, ale nesmí to být specifikace bez revize. Jakmile se AI začne používat jako autorita, je to špatně.

Prototyp, který nejde vyrobit

AI je schopná vymyslet prototyp, který nejde vyrobit. Nebo jde, ale je to nesmyslně drahé. Nebo to porušuje normu, kterou jsme přehlédli. Vypadá to přesvědčivě, tým se tím nadchne, spálíme na tom týdny práce a pak se zjistí, že to byla slepá ulička.

AI umí být skvělá na nápady. Ale u reality výroby, normových omezení a fyziky potřebujeme tvrdou kontrolu.

Automatizované rozhodování

A největší průšvih je automatizované rozhodování. Tady to musí jet na jasných pravidlech. Stejná data, stejný výstup. Za stejných podmínek, stejné rozhodnutí. Bez výjimky.

Jakmile do takového procesu narveme AI a začne to vracet jednou tak a podruhé jinak, tak to není inovace. To je rozbitý proces.

A platí to dvojnásob, když se rozhoduje o lidech: nábor, hodnocení výkonu, sankce, přístup k službě, scoring, pojistné plnění, schvalování. Pokud to má dopad na člověka, tak „model to tak vyhodnotil“ není argument. Je to výmluva.

AI jen kopíruje minulost, ne spravedlnost

Další věc, kterou podceňujeme je bias v datech. Pokud necháme model trénovat na datech, která už bias obsahují, tak se ten bias neztratí. Naopak. Model ho vezme jako pattern a bude ho opakovat.

A teď to nejhorší. Navenek to bude vypadat, že rozhoduje správně. Protože bude rozhodovat stejně jako dřív. Stejně jako lidé, kteří tím biasem trpěli taky.

Jenže to není žádná spravedlnost ani zlepšení. To je automatizace staré chyby. A často hůř, protože to jede rychle.

Extrémy a autonomie

A pak jsou tu extrémy. Člověk má jednu velkou výhodu: když vidí extrém, často mu dojde, že je to totální kravina. A řekne stop.

AI tuhle brzdu nemá. Pro ni jsou to jen data. Pokud to sedí do vzoru, klidně to doporučí. A může to doporučit i v situaci, kde by normální člověk řekl: „Tohle ne, tohle je za hranou.“

A jakmile je to autonomní, tak to nejede jednou. Jede to pořád. A rychle. A ve velkém. Autonomie bez rozumu je jen automatizovaný průšvih.

Přístupy a oprávnění

Tady se nejčastěji dělá ta nejdražší chyba: „dej tomu práva pro sichr, ať to funguje“. Ne. Přesně naopak. AI nemá dostat nic navíc. Jen to, co potřebuje. A ideálně ještě míň.

Protože jakmile jednou dáme AI nebo jejím integracím příliš široká práva, máme z ní dokonalý nástroj pro průšvih. Ne proto, že by chtěla škodit, ale protože udělá chybu rychleji a ve větším měřítku než člověk.

Závěr

AI nezastavíme. Ale můžeme rozhodnout, jestli bude řízená, nebo chaotická. Kde potřebujeme právo, determinismus, audit, peníze, bezpečnost nebo odpovědnost, tam AI nesmí rozhodovat sama. Může navrhnout. Ale bez revize a bez pravidel je to jen stroj na průšvihy.

A jestli si chceme ušetřit nejdražší fázi téhle vlny, tak si přiznejme jednu věc včas: první úspory byly snadné. Teď už jedeme do kopce. A cpát AI všude jen proto, abychom obhájili investici, je nejrychlejší způsob, jak z toho udělat problém, který jsme vůbec nepotřebovali.

LITERATURA

EVROPSKÝ PARLAMENT A RADA EVROPSKÉ UNIE. Nařízení Evropského parlamentu a Rady (EU) 2024/1689 ze dne 13. června 2024, kterým se stanoví harmonizovaná pravidla pro umělou inteligenci a mění některé legislativní akty Unie. Úřední věstník Evropské unie, L, 2024. Online. Dostupné z: https://eur-lex.europa.eu/eli/reg/2024/1689/oj. [cit. 2026-06-17].

EVROPSKÝ PARLAMENT A RADA EVROPSKÉ UNIE. Nařízení Evropského parlamentu a Rady (EU) 2016/679 ze dne 27. dubna 2016 o ochraně fyzických osob v souvislosti se zpracováním osobních údajů a o volném pohybu těchto údajů. Úřední věstník Evropské unie, L 119, 2016. Online. Dostupné z: https://eur-lex.europa.eu/eli/reg/2016/679/oj. [cit. 2026-06-17].

EUROPEAN DATA PROTECTION BOARD. Guidelines on Automated individual decision-making and Profiling for the purposes of Regulation 2016/679. Online. Brussels: European Data Protection Board, 2018. Dostupné z: https://www.edpb.europa.eu/our-work-tools/our-documents/guidelines/automated-decision-making-and-profiling_en. [cit. 2026-06-17].

NATIONAL INSTITUTE OF STANDARDS AND TECHNOLOGY. Artificial Intelligence Risk Management Framework (AI RMF 1.0). NIST AI 100-1. Online. Gaithersburg: National Institute of Standards and Technology, 2023. Dostupné z: https://nvlpubs.nist.gov/nistpubs/ai/nist.ai.100-1.pdf. [cit. 2026-06-17].

NATIONAL INSTITUTE OF STANDARDS AND TECHNOLOGY. Artificial Intelligence Risk Management Framework: Generative Artificial Intelligence Profile. NIST AI 600-1. Online. Gaithersburg: National Institute of Standards and Technology, 2024. Dostupné z: https://nvlpubs.nist.gov/nistpubs/ai/NIST.AI.600-1.pdf. [cit. 2026-06-17].

INTERNATIONAL ORGANIZATION FOR STANDARDIZATION. ISO/IEC 23894:2023. Information technology — Artificial intelligence — Guidance on risk management. Online. Geneva: ISO, 2023. Dostupné z: https://www.iso.org/standard/77304.html. [cit. 2026-06-17].

INTERNATIONAL ORGANIZATION FOR STANDARDIZATION. ISO/IEC 42001:2023. Information technology — Artificial intelligence — Management system. Online. Geneva: ISO, 2023. Dostupné z: https://www.iso.org/standard/42001. [cit. 2026-06-17].

OWASP FOUNDATION. OWASP Top 10 for Large Language Model Applications 2025. Online. OWASP Foundation, 2024. Dostupné z: https://owasp.org/www-project-top-10-for-large-language-model-applications/. [cit. 2026-06-17].

Pokud se vám líbí naše články, tak zvažte podporu naši práce – Naskenujte QR kód a přispějte libovolnou částkou.

Děkujeme!

Štítky: AI