Chain of thought (česky řetězec myšlenek) je způsob, jak AI model před finální odpovědí napíše mezikroky vlastního uvažování – podobně jako když si člověk před složitým výpočtem načrtne postup na papír, místo aby řekl výsledek od boku. U moderních jazykových modelů (LLM) s takzvaným reasoningem (Claude s rozšířeným myšlením, OpenAI o1/o3, Gemini v režimu thinking) se to dnes děje automaticky, aniž by o to uživatel musel model prosit.
Jak to funguje
Technika vznikla jako promptovací trik. V lednu 2022 tým Google Research (Wei a kol.) ukázal, že když modelu do promptu přidáte pár příkladů s vypsaným postupem řešení, výrazně mu to zlepší výsledky na matematických a logických úlohách – tehdejší 540miliardový model s pouhými osmi ukázkami dosáhl na benchmarku GSM8K (sbírka slovních matematických úloh pro základní školy) nejlepšího výsledku v oboru.
Později v roce 2022 přišel Kojima a kol. s ještě jednodušší verzí: stačí do promptu napsat větu „Let's think step by step“ a model si postup vygeneruje sám, bez příkladů. Přesnost na testu MultiArith (sada aritmetických slovních úloh) tím vyskočila z necelých 18 % na skoro 79 %. Tahle takzvaná zero-shot varianta se tím stala univerzálním trikem použitelným na jakoukoli úlohu.
Od roku 2023 se vývoj přesunul jinam. Místo aby si uživatel musel řetězec myšlenek vyprošovat v promptu, začaly se trénovat modely, které uvažují samy od sebe – pomocí reinforcement learningu s odměnou za správný výsledek. Tak vznikly reasoning modely: OpenAI o1 (podzim 2024), DeepSeek-R1 (leden 2025), Claude 3.7 Sonnet s volitelným „extended thinking“ (únor 2025) nebo Gemini v režimu thinking (jaro 2025). Rozdíl proti starší technice je v tom, že tady uvažování řídí trénink modelu, ne formulace promptu – je to spolehlivější a nezávisí to na tom, jak dobře uživatel Prompt napsal. O tom, jak rychle se dnešní modely v reasoningu předhánějí, jsem psal i v týdeníku o nových modelech a AI agentech.
Kdy se to hodí
Chain of thought pomáhá hlavně tam, kde se počítá nebo logicky odvozuje. Ukázala to i rozsáhlá meta-analýza z konference ICLR 2025 – přes sto studií, dvacet datasetů. U matematiky a symbolické logiky přinesl chain of thought zlepšení v řádu desítek procent oproti odpovědi bez přemýšlení. Jinde je efekt často zanedbatelný: na testu obecných znalostí (MMLU) vyšla přesnost s reasoningem a bez něj skoro stejně, pokud v zadání nebyl matematický nebo logický prvek.
V praxi to znamená, že finanční kalkulace nebo úlohy se symbolickou logikou jsou typické využití pro reasoningový model. U plánování s víc proměnnými nebo u víckrokových AI agentů to dává smysl podobně, i když přímé výzkumné důkazy existují hlavně pro matematiku a logiku, ne pro plánování jako takové. Jednoduchá klasifikace, vyhledávání faktů nebo krátká odpověď na běžnou otázku reasoning obvykle nepotřebují – zapnutý navíc jen prodlouží čekání a zvýší cenu za dotaz.
Tohle rozhodování, kdy se reasoning vyplatí a kdy je to zbytečný náklad navíc, řeším i ve firemních AI agentech, které stavím na míru – napojuji modely na firemní data a procesy a nastavuji, kdy má agent „přemýšlet nahlas“ a kdy stačí rychlá odpověď. Víc o tvorbě AI agentů na míru →
Limity a rizika
Delší odpověď znamená víc vygenerovaných tokenů, a tedy vyšší cenu a delší čekání na výsledek. U jednoduchých úloh se to nemusí vyplatit – model si někdy generuje zbytečné kroky navíc i tam, kde by stačila přímá odpověď, a na výsledku se to nijak neprojeví.
Častá mylná představa je, že vypsaný řetězec myšlenek je věrný obraz toho, jak model k odpovědi skutečně došel. Realita je jiná – výzkum opakovaně ukazuje, že model dokáže napsat vysvětlení, které s jeho skutečným postupem nesouvisí. Jde spíš o dodatečné zdůvodnění než o protokol z procesu. Pro firmy to má jeden praktický důsledek: řetězec myšlenek se nehodí jako doklad nebo kontrola správnosti, i když tak občas vypadá.
Na čistě symbolické úlohy, třeba přesné matematické výpočty, navíc obvykle fungují líp dedikované nástroje a kalkulačky než chain of thought v jazykovém modelu. A rozhodnutí, kdy reasoning zapnout, kdy ho vypnout a jak to celé propojit s firemními systémy a daty, už přesahuje to, co se dá naklikat v hotovém nástroji – chce to nastavení na úrovni API a testování na reálných datech, ne jen vyzkoušení v chatu.
Pro běžné každodenní dotazy chain of thought řešit nemusíte – dnešní modely samy poznají, kdy se vyplatí zapojit hlubší uvažování a kdy stačí odpověď rovnou.
Pavel Szabo
Programátor webů, eshopů a informačních systémů s více než 23 lety praxe. Pomáhám firmám i jednotlivcům s online podnikáním, automatizacemi a využitím AI v praxi.
