Tree of Thoughts: větvené uvažování, které překoná lineární Chain of Thought
Jak Tree of Thoughts přidává větvení a prohledávání do AI uvažování, kdy překoná lineární Chain of Thought a kdy je jen drahá režie.
Chain of Thought byl důležitý krok. Donutil model ukázat mezikroky místo skoku rovnou k odpovědi.
Jenže pořád má jeden zásadní limit: je lineární. Model si zvolí trajektorii a pokračuje po ní dál. Když se splete brzy, často se splete elegantně až do konce.
Tree of Thoughts (ToT) řeší jiný problém než „lepší prompt“. Řeší prohledávání (search): jak v průběhu uvažování generovat alternativní větve, porovnávat je a vracet se ze slepých uliček.
Právě proto ToT pomáhá hlavně tam, kde správné řešení nevypadá jako jedna přímá linie, ale jako průchod stavovým prostorem.
Rámec tvrzení
- Co článek tvrdí: Chain of Thought je omezený svou linearitou; Tree of Thoughts přidává větvení, hodnocení a prohledávání alternativ. ToT pomáhá hlavně u úloh se strukturou prohledávání, nikoli u jednoduchých faktických dotazů. Největší přínos má selektivní nasazení, ne plošné použití.
- Na čem to stojí: Původní studie Tree of Thoughts (Yao et al., 2023), Chain-of-Thought Prompting (Wei et al., 2022), Self-Consistency (Wang et al., 2022) a ReAct (Yao et al., 2022) -- všechny recenzované nebo široce citované arXiv preprints.
- Kde je to zjednodušení: Článek nepředkládá vlastní benchmarkové výsledky. Popis tří operací (expand, evaluate, search) je schematický; reálná implementace vyžaduje řadu designových rozhodnutí, která text nerozebírá. Tvrzení o nákladové efektivitě je kvalitativní.
CoT je lineární trajektorie a právě to je jeho limit
Chain of Thought funguje dobře u úloh, kde stačí rozložit řešení na mezikroky a jít dopředu. Krátká matematika, jednoduché logické úlohy nebo strukturovaná vysvětlení tím často získají.
Limit se ukáže u úloh, které vyžadují:
- zkusit více variant,
- porovnat je,
- zahodit slepé uličky,
- vrátit se a změnit směr.
To není jen svět hádanek. Stejná struktura existuje v plánování projektu, návrhu strategie nebo řešení problémů s omezeními. První lokálně rozumný krok může později zablokovat lepší řešení.
Lineární CoT umí pokračovat. Někdy umí „zkus to znovu“. Ale to není systematické prohledávání alternativ. Je to jen další lineární pokus.
Jak Tree of Thoughts funguje
ToT lze chápat jako orchestraci nad LLM. Model negeneruje jen finální odpověď. Generuje kandidátní mezikroky (thoughts), které workflow hodnotí a vybírá.
Zjednodušeně se opakují tři operace.
Expand: vygeneruj kandidáty
Z aktuálního stavu model navrhne několik možných pokračování, ne jedno. Tím vzniká sada alternativ, se kterou lze dál pracovat.
Evaluate: ohodnoť kandidáty
Kandidáty je potřeba nějak filtrovat. Hodnocení může říkat, zda větev vypadá slibně, porušuje omezení nebo je nekonzistentní.
Hodnocení nemusí být perfektní. Má hlavně rozhodnout, kam má smysl investovat další výpočet.
Search: vyber, prohledej, ořež
Tady je skutečný rozdíl oproti delšímu promptu. Workflow rozhoduje, které větve rozvinout, které ořezat, kdy se vrátit a kdy skončit.
Lze jít více do šířky, více do hloubky nebo hybridně. Důležitý princip je stejný: nealokovat všechen inference compute do jedné trajektorie.
Proč ToT pomáhá na úlohách se search strukturou
Na úlohách typu plánování často nevíte po prvním kroku, která cesta je správná. Víte jen, že některé cesty vypadají slibněji.
ToT přináší dvě velké výhody.
Porovnání alternativ v jednom běhu. Nemusíte spoléhat na opakované "zkus to celé znovu". Několik větví může existovat současně a průběžně se porovnává.
Backtracking jako standardní operace. Slepá ulička není selhání. Je to očekávaná součást procesu prohledávání.
To je blízké tomu, jak řešíme složitější problémy mimo AI. Šachista porovnává varianty. Architekt iteruje návrhy. Analytik testuje scénáře. ToT dělá podobnou věc s textovými mezikroky modelu.
Proto je ToT zajímavé i mimo benchmarky. Jde o obecný princip: když hodnota vzniká explorací alternativ, lineární monolog nestačí.
Cena ToT: latence, tokeny a orchestrace
ToT má jasnou cenu. Každá větev stojí tokeny. Hodnocení větví stojí další výpočet. Každý krok prohledávání přidává latenci.
ToT tedy není vylepšení zdarma. Je to kompromis: více inferenčního výpočtu za vyšší šanci najít lepší řešení u správného typu úloh.
U jednoduchého faktického dotazu je to zbytečná režie. Když potřebujete správný údaj, chcete spíš ověření než strom možností.
Naopak u úloh, kde je chyba v raném kroku drahá a těžko rozpoznatelná, může být extra compute dobře investovaný.
Praktický návrhový princip z toho plyne jasný: ToT nepoužívat jako výchozí volbu, ale selektivně. Ideálně až po rozpoznání, že úloha má strukturu podobnou prohledávání.
Kdy ToT použít a kdy raději ne
ToT dává smysl, když
- úloha vyžaduje plánování nebo sekvenci závislých rozhodnutí,
- existují omezení, která se projeví až později,
- potřebujete porovnat varianty,
- lineární CoT opakovaně končí plausibilním, ale slepým řešením.
ToT je zbytečný, když
- jde o jednoduchý faktický dotaz,
- potřebujete rychlou odpověď s nízkou cenou chyby,
- úloha nemá skutečný search prostor,
- latence je důležitější než kvalita navíc.
Hybridní režim bývá nejlepší
V praxi často funguje kombinace: běžný chat nebo CoT pro první návrh, ToT-like search jen pro obtížné části a verifikace (např. CoVe) pro faktické body ve finálním výstupu.
To ukazuje, že ToT není konkurent všech ostatních technik. Je to specializovaný režim pro konkrétní třídu problémů.
Nástroje jako CrossChat mohou logiku podobnou ToT používat selektivně pro těžší dotazy, místo aby ji zapínaly plošně. To bývá lepší kompromis mezi cenou, latencí a kvalitou.
Závěr
Tree of Thoughts vrací do AI uvažování něco, co lineární prompting často potlačuje: systematické prohledávání alternativ.
Místo jedné trajektorie dostanete větve. Místo slepé důvěry v první plausibilní krok dostanete porovnání možností. Místo improvizovaného „zkus to znovu“ dostanete prohledávání.
To neznamená, že ToT je vždy lepší než Chain of Thought. Znamená to, že je vhodnější pro jiný typ úloh.
Zdroje
- Yao, S. et al. (2023). Tree of Thoughts: Deliberate Problem Solving with Large Language Models. arXiv:2305.10601. DOI: 10.48550/arXiv.2305.10601.
- Wei, J. et al. (2022). Chain-of-Thought Prompting Elicits Reasoning in Large Language Models. arXiv:2201.11903. DOI: 10.48550/arXiv.2201.11903.
- Wang, X. et al. (2022). Self-Consistency Improves Chain of Thought Reasoning in Language Models. arXiv:2203.11171. DOI: 10.48550/arXiv.2203.11171.
- Yao, S. et al. (2022). ReAct: Synergizing Reasoning and Acting in Language Models. arXiv:2210.03629. DOI: 10.48550/arXiv.2210.03629.
Historie úprav
Koncept: Claude Code + Anthropic Sonnet 4.6 Verze 1: Claude Code + Anthropic Sonnet 4.6 Verze 2: Codex + GPT-5.2
Jazyková revize (2026-02-25, Codex + GPT-5): zpřesněna stylistika a nahrazeny zbytečné anglicismy; technické termíny ponechány tam, kde jsou užitečné. Kvalitativní audit (2026-03-23, Claude Code + Claude Opus 4.6): přidán Rámec tvrzení, ověřeny zdroje, jazyková úprava.