Halucinace AI je situace, kdy jazykový model vydá nepravdivou nebo vymyšlenou informaci se stejnou jistotou, jako by šlo o ověřený fakt. Vzniká proto, že model nepředpovídá pravdu, ale nejpravděpodobnější další slovo v textu.
Jak a proč vzniká
Jazykový model (LLM) se na obrovském množství textu učí jedno: jaké slovo pravděpodobně přijde po těch předchozích. Nemá vestavěný „model pravdy“, žádný mechanismus, který by u každé věty ověřil, jestli jde o fakt nebo výmysl. Optimalizuje plynulost odpovědi, ne její správnost.
K tomu se přidává způsob, jak se modely trénují a hodnotí. Sebejistá, konkrétní odpověď dostane v hodnocení lepší skóre než přiznané „nevím“ – podobně jako student u zkoušky, který radši něco řekne, než aby mlčel. Přesnější odborný termín než halucinace je konfabulace: model si logicky domyslí chybějící informaci tak, aby text dával smysl. Podobá se to tomu, jak lidský mozek doplňuje neúplnou vzpomínku.
Kde halucinace nejvíc bolí
Riziko roste s tím, jak nevratné nebo právně závazné je rozhodnutí, které stojí na výstupu AI. Nejlíp zdokumentovaná je právní oblast. Podle studie Stanfordovy univerzity (Journal of Empirical Legal Studies, 2025) halucinují i právnické AI nástroje napojené na vlastní databázi dokumentů – technologie RAG – a to v 17 až 33 procentech případů. 13 až 21 procent citací zdrojů je podle jedné z novějších studií (2026) vymyšlených. Chybuje tedy i mechanismus, který má halucinace hlídat.
Podobně vysoké riziko lze logicky očekávat i ve zdravotnictví nebo financích, kde jde o citlivá a nevratná rozhodnutí. Tvrdá čísla pro tyto obory ale zatím chybí, jde jen o logickou analogii k právu. Firmy navíc nesou riziko samy. Dodavatelé velkých modelů – OpenAI, Google, Anthropic – obvykle poskytují službu „jak je“ a smluvně nekryjí škody způsobené špatným výstupem, jen porušení autorských práv třetích stran.
Halucinace o konkrétní osobě může navíc narazit na GDPR, konkrétně na požadavek přesnosti osobních údajů. Česká judikatura k tomu zatím neexistuje, jde o rámec, který se teprve utváří.
Jak se dá riziko snížit
Žádná technika halucinace neodstraní úplně, jen je omezí. Napojení na vlastní zdroje dat pomáhá nejvíc, ale problém jen posouvá o krok dál, do kvality a výběru dokumentů, se kterými model pracuje. Strukturovaný výstup, třeba vynucené JSON schéma, zase řeší formát odpovědi, ne to, jestli je obsah pravdivý.
Funguje i naučit model přiznat nejistotu místo hádání. Podle jedné studie to snížilo podíl vymyšlených odpovědí z 52,3 na 34,2 procenta. Za to se platí: podíl vůbec zodpovězených dotazů klesl z 96,5 na 55,3 procenta – model se tedy častěji odmlčí, i tam, kde by dřív odpověděl správně.
Přesně kvůli tomuto u AI agentů, které stavím na míru, věnuju hodně času napojení na kvalitní zdroje dat, ne jen hezkému promptu. Agentovi popisuju, odkud smí čerpat a kdy má radši říct „nevím“ než si vymýšlet. Víc o tvorbě AI agentů na míru →
Dva rozšířené mýty stojí za vyvrácení. Nižší „teplota“ (parametr náhodnosti generování) prý spolehlivě snižuje halucinace – studie z EMNLP 2024 ale u úloh na řešení problémů žádný měřitelný efekt teploty nenašla (halucinace přímo netestovala). Silnější vliv mají formulace zadání a systémové instrukce. Druhý mýtus říká, že se u citací zdrojů vymýšlí kolem 70 procent. Reálné číslo z dostupných dat u právnických AI nástrojů je 13 až 21 procent – pořád dost na to, aby se citacím nedalo slepě věřit, ale jinde, než se traduje. Riziko nesnižuje ani dodatečné dotrénování modelu na nová fakta. Podle dalšího výzkumu může počet halucinací naopak zvýšit, protože nové informace naruší už uložené znalosti.
Můj pohled
Dost lidí mi říká, že jim AI halucinuje. Já mám Claude Code skoro od začátku napojený na kvalitní kontext – vlastní Obsidian vault, paměť mezi sessions, Freelo a další nástroje, které v byznysu používám. Čistý a přesný kontext je podle mě to nejdůležitější, co se s halucinacemi dá dělat. Když to všechno máte, míra halucinací je extrémně nízká.
Víc než s vymyšlenými fakty bojuju s tím, že model na něco zapomene nebo něco napíše dvakrát. Že by napsal něco vyloženě špatně, se mi skoro neděje. Myslím, že do budoucna to bude jenom lepší, ale chce to pracovat chytře – mám na to i vlastní metodiku stavění AI agentů a smyček, kde hraje roli i zpětná vazba, kterou si agent ukládá a učí se z ní.
Co si z toho vzít
Halucinace nejsou chyba, kterou příště opraví novější verze modelu. Jsou vedlejším efektem toho, jak jazykové modely fungují. Pro firmu z toho plyne jedno: u výstupů, kde se chyba prodraží, patří mezi model a rozhodnutí vždycky člověk, tedy kontrola s člověkem v procesu. Kde je chyba nevratná – peníze, právní závazek, zdraví – schvaluje se výstup před odesláním. Kde je levná, stačí namátková kontrola.
Pavel Szabo
Programátor webů, eshopů a informačních systémů s více než 23 lety praxe. Pomáhám firmám i jednotlivcům s online podnikáním, automatizacemi a využitím AI v praxi.
