Chain of Verification: jak systematicky odhalit, co AI model neví

Když AI odpověď zní sebejistě, většina lidí udělá jednu ze dvou věcí. Buď jí uvěří. Nebo napíše: "Zkontroluj to."

Problém je, že druhá varianta často není skutečná kontrola. Je to jen druhé kolo stejného modelu ve stejném kontextu. Pokud byl omyl v prvním kroku, model ho umí elegantně přeformulovat i ve druhém.

Chain of Verification (CoVe) je zajímavý právě tím, že se nesnaží model "přemluvit", aby byl chytřejší. Místo toho mění proces. Oddělí generování odpovědi od jejího ověření a vynutí nezávislé otázky, které testují kritická tvrzení.

To je rozdíl mezi revizí stylu a revizí pravdivosti.

Rámec tvrzení

Co článek tvrdí: Běžný self-review (zeptej se modelu, zda je odpověď správná) často recykluje původní chybu. Chain of Verification (CoVe) tento problém řeší rozkladem odpovědi na nezávislé ověřovací otázky, které se zodpovídají odděleně. Výsledek je přesnější a lépe kalibrovaný.

Na čem to stojí: Dhuliawala et al. (2023) -- formální popis metody CoVe; obecné principy dekompozice problémů a nezávislé verifikace; analogie s investigativní prací a redakční kontrolou.

Kde je to zjednodušení: Článek nepředkládá konkrétní čísla o míře zlepšení. Kvalita CoVe závisí na kvalitě ověřovacích otázek, což článek sám přiznává. Ruční čtyřkrokový workflow je zjednodušením výzkumné pipeline a nemusí dosáhnout stejných výsledků.

Proč self-review často recykluje stejnou chybu

Prompt typu "zkontroluj svou odpověď" zní rozumně. V praxi ale často naráží na to, jak jazykový model funguje.

Model vidí vlastní předchozí text. Ten text je součástí kontextu, který se snaží udržet koherentní. Pokud první odpověď tvrdí, že nějaký zákon vznikl v roce 2019, druhá odpověď nemusí hledat pravdu. Může jen hledat konzistentnější způsob, jak tvrzení z roku 2019 obhájit.

To neznamená, že self-review je k ničemu. Umí najít některé nekonzistence, stylistické chyby nebo zjevné logické skoky. Jen není dobré předstírat, že jde o nezávislé ověření.

U faktických tvrzení je problém ještě výraznější. Jedna halucinace se snadno stane „kotvou“. Další krok pak neověřuje tvrzení proti důkazům, ale porovnává nové věty s původním tvrzením.

Praktický důsledek: pokud vám záleží na pravdivosti, nestačí druhé kolo stejného promptu. Potřebujete změnit jednotku kontroly. Neověřovat celý odstavec najednou, ale rozložit ho na dílčí tvrzení.

Jak Chain of Verification funguje krok za krokem

CoVe lze popsat jako čtyři oddělené fáze:

pracovní odpověď,
plán ověření,
nezávislé ověřovací odpovědi,
opravená syntéza.

To zní jednoduše. Síla metody je právě v disciplíně oddělení kroků.

1. Pracovní odpověď (draft, ne verdikt)

Nejprve model odpoví normálně. Důležité je mentální nastavení: nejde o finální výsledek, ale o draft, ze kterého vytáhneme tvrzení k ověření.

Tahle fáze je užitečná, protože model často rychle nabídne strukturu tématu, terminologii a hypotézu. Není ale důvod jí automaticky věřit.

2. Plán ověření (verification questions)

Druhá fáze se neptá „je odpověď správná?“. Ptá se: „Které dílčí otázky musí být zodpovězeny pravdivě, aby byla pravdivá i tato odpověď?“

Příklad. Model tvrdí:

autor studie je konkrétní tým,
studie vyšla v určitém roce,
zkoumala konkrétní metodu,
závěr říká konkrétní věc.

Místo jedné velké kontroly vytvoříte čtyři menší ověřovací otázky:

Kdo je autorem?
Kdy a kde práce vyšla?
Jaká byla metoda?
Co přesně autoři tvrdí v závěru?

Najednou se z "věřím / nevěřím" stane kontrolovatelný checklist.

3. Nezávislé zodpovězení sub-otázek

Tohle je kritický krok. Ověřovací otázky by se měly zodpovídat bez opírání o původní formulaci, pokud možno s jiným rámováním nebo jiným modelem.

Jinak si do verifikace propašujete původní chybu.

V praxi to znamená:

nedávat modelu původní odstavec jako autoritativní vstup,
ptát se přímo na dílčí tvrzení,
u důležitých tvrzení přidat požadavek na zdroj nebo explicitní nejistotu.

Pokud odpovědi na sub-otázky nesedí s draftem, není to selhání workflow. To je přesně výsledek, který chcete vidět.

4. Oprava a syntéza

Teprve po sub-kontrolách dává smysl vrátit se k původní odpovědi a přepsat ji.

Tady se CoVe liší od běžného "review" i psychologicky: model už neobhajuje původní text, ale skládá novou verzi z ověřených dílů. To snižuje tlak na zachování původního závěru.

Výsledek často není jen "správnější". Bývá také kalibrovanější. Některé věty se změní z tvrdých tvrzení na podmíněné formulace, protože ověřovací krok ukáže, že evidence není dost silná.

Proč rozklad na sub-otázky snižuje halucinace

Velká halucinace bývá ve skutečnosti složená z několika menších. Model si "domyslí" autora, rok, název instituce a pak z toho postaví přesvědčivý odstavec.

Pokud kontrolujete jen finální odstavec, posuzujete styl, plynulost a celkovou věrohodnost. To jsou přesně dimenze, ve kterých jsou moderní LLM silné.

Rozklad na sub-otázky mění hru. Najednou nehodnotíte rétoriku, ale konkrétní body. Každý bod může selhat samostatně.

To má tři praktické výhody:

Lokalizace chyby. Nevíte jen, že "něco nesedí". Víte, že nesedí třeba datum a zdroj, zatímco definice pojmu je správně.

Lepší eskalace. Nemusíte ověřovat vše ručně. Ověříte jen sporné body. To šetří čas i pozornost.

Kalibrace výsledku. Odpověď může zůstat použitelná i tehdy, když dva dílčí body selžou. Místo "zahodit vše" dostanete řízenou revizi.

Podobný princip používá investigativní práce, due diligence nebo editace textu: rozbít komplexní tvrzení na kontrolovatelná tvrzení. CoVe je totéž aplikované na AI výstup.

Kde CoVe funguje nejlépe a kde ne

CoVe není univerzální řešení. Funguje nejlépe tam, kde lze odpověď rozložit na ověřitelné části.

Nejlepší případy použití:

faktické Q&A,
shrnutí textu s konkrétními tvrzeními,
analytická memoranda s odkazy na zdroje,
interní podklady, kde je potřeba oddělit jisté body od nejistých.

Slabší případy použití:

čistě hodnotové otázky ("je to dobré nebo špatné?"),
kreativní psaní,
strategické volby bez jasně ověřitelné reality (ground truth),
témata, kde největší problém není faktická chyba, ale špatně zvolená kritéria.

Je tu i technický limit: CoVe je tak dobré, jak dobré jsou ověřovací otázky. Pokud model v druhé fázi vygeneruje špatný checklist, může minout klíčový problém a ověřit jen vedlejší detaily.

Proto je užitečné aspoň občas zkontrolovat i samotný ověřovací plán (verification plan), zejména u důležitých rozhodnutí.

Jak CoVe použít ručně v běžném chatu

Na CoVe nepotřebujete výzkumnou pipeline. Stačí disciplína a čtyři prompty.

Mini workflow (ručně)

Prompt 1: Draft "Odpověz na otázku X stručně a strukturovaně."

Prompt 2: Ověřovací plán "Vypiš 5-8 ověřovacích otázek, které musí být zodpovězené, aby předchozí odpověď byla fakticky spolehlivá. Zaměř se na konkrétní tvrzení, ne styl."

Prompt 3: Nezávislé odpovědi "Zodpověz tyto ověřovací otázky jednu po druhé. Pokud si nejsi jistý, napiš to explicitně. Nepřebírej formulace z původní odpovědi."

Prompt 4: Revize "Přepiš původní odpověď pouze podle ověřených bodů. Neověřené body označ jako nejisté nebo je vynech."

Klíčová disciplína je ve třetím kroku. Pokud tam vložíte původní odstavec a napíšete "potvrď ho", vracíte se k self-review a ztrácíte výhodu CoVe.

Pro high-stakes tvrzení je nejlepší použít jiný model nebo primární zdroj jako finální kontrolu. CoVe snižuje riziko halucinace, ale negarantuje pravdu.

V nástrojích jako CrossChat může být tahle logika zabalená do fází workflow. Praktická hodnota ale není v názvu funkce. Je v tom, že verifikace je samostatný krok, ne poslední věta typu „zkontroluj to“.

Závěr

Chain of Verification je užitečný, protože mění otázku z "věříš modelu?" na "které části odpovědi obstály při kontrole?".

To je mnohem lepší způsob práce s AI v situacích, kde cena chyby není nulová.

CoVe neřeší všechny problémy. Nepomůže tam, kde chybí externí evidence nebo kde jde primárně o hodnotový soud. Ale pro faktická tvrzení a analytické texty přidává přesně to, co chatový režim často postrádá: oddělenou verifikační fázi.

Zdroje

Dhuliawala, S. et al. (2023). Chain-of-Verification Reduces Hallucination in Large Language Models. arXiv:2309.11495. DOI: 10.48550/arXiv.2309.11495.
Yao, S. et al. (2022). ReAct: Synergizing Reasoning and Acting in Language Models. arXiv:2210.03629. DOI: 10.48550/arXiv.2210.03629.
Shinn, N. et al. (2023). Reflexion: Language Agents with Verbal Reinforcement Learning. arXiv:2303.11366. DOI: 10.48550/arXiv.2303.11366.
Wang, X. et al. (2022). Self-Consistency Improves Chain of Thought Reasoning in Language Models. arXiv:2203.11171. DOI: 10.48550/arXiv.2203.11171.

Historie úprav

Koncept: Claude Code + Anthropic Sonnet 4.6 Verze 1: Claude Code + Anthropic Sonnet 4.6 Verze 2: Codex + GPT-5.2

Jazyková revize (2026-02-25, Codex + GPT-5): upravena stylistika, zpřesněny formulace a omezeny anglicismy; význam textu zachován. Kvalitativní audit (2026-03-23, Claude Code + Claude Opus 4.6): přidán Rámec tvrzení, ověřeny zdroje, jazyková úprava.