Proč AI modely, které říkají "nevím", jsou spolehlivější

Sebejistá odpověď od AI modelu by vás měla znepokojit víc než odpověď s výhradami. Paradoxně — schopnost vyjádřit nejistotu je silnější signál kvality než plynulost nebo autoritativní tón.

Když konzultant řekne "nejsem si jistý, potřebuji více dat," zní méně autoritativně než ten, kdo odpovídá okamžitě a bez výhrad. Ale první konzultant je často spolehlivější — ví, kde končí jeho znalosti.

Když AI model řekne "tato otázka má více validních odpovědí závisejících na kontextu," zní méně užitečně než model, který odpoví konkrétně a plynule. Ale první model může být lépe kalibrovaný — vyjadřuje nejistotu tam, kde skutečně existuje.

Problém: současné AI modely jsou trénovány tak, aby generovaly odpovědi, které lidé preferují. A lidé preferují sebejistotu nad přesnost, plynulost nad výhrady. RLHF (Reinforcement Learning from Human Feedback) vytváří systémový tlak na přílišnou sebejistotu — modely se učí generovat autoritativní odpovědi i tam, kde by měly váhat.

Tento článek analyzuje epistémickou skromnost jako indikátor spolehlivosti AI modelů. Argumentuje, že schopnost vyjádřit nejistotu je vlastnost, ne chyba — a že modely, které ji mají, jsou paradoxně důvěryhodnější než ty, které odpovídají vždy sebejistě.

Rámec tvrzení

Co článek tvrdí: Schopnost AI modelu vyjádřit nejistotu je silnější signál kvality než sebejistota. RLHF trénink systematicky posouvá modely směrem k přílišné sebejistotě. Dobře kalibrovaný model rozlišuje stupně nejistoty a je v kontextech s vysokými sázkami bezpečnější.

Na čem to stojí: Dunning-Krugerův efekt (1999), výzkum kalibrace neuronových sítí (Guo et al. 2017), TruthfulQA benchmark (Lin et al. 2021), Constitutional AI paper (Bai et al. 2022).

Kde je to zjednodušení: Článek prezentuje RLHF jako hlavní zdroj sebejistoty, ale skutečný vliv závisí na konkrétní implementaci. Tvrzení, že Constitutional AI paper ukazuje konkrétní trend u GPT-4, je nadinterpretace — paper se zabývá primárně přístupem Anthropicu. Diagnostické testy kalibrace jsou heuristické, ne vědecky validované.

Epistémická skromnost jako signál expertízy

Schopnost rozpoznat hranice vlastní znalosti a vyjádřit nejistotu je známka expertízy, ne slabosti. Platí u lidí i u AI.

Expertíza není jen šířka znalostí, ale uvědomění si jejich hranic. Lékař, který řekne "tento případ vyžaduje konzilium," je často spolehlivější než ten, který diagnostikuje okamžitě. Vědec, který řekne "potřebujeme více dat," je často rigoróznější než ten, který publikuje předčasné závěry.

Konkrétní příklady z různých domén ilustrují tento vzorec.

Medicína má protokol druhého názoru právě proto, že experti vědí, kdy jejich pokrytí znalostí není dostatečné. Vědí, kdy případ leží mimo jejich specializaci nebo zkušenost. Dunningův-Krugerův efekt ukazuje opak — lidé s nízkou kompetencí nerozpoznají vlastní mezery a přeceňují jistotu.

Věda funguje na principu, že jednotlivec nemůže být jistý vlastními nálezy bez externí validace. Peer review proces existuje přesně proto. Replikační krize ukázala, že výzkumníci, kteří publikovali sebejisté závěry bez výhrad, často chybovali. Studie, které nereplikovaly, měly jednu společnou vlastnost: autoři nepřiznali limity svých nálezů.

Finance poskytují další příklad. Nejlepší investoři (Buffett, Munger) mají "circle of competence" — explicitně říkají "tomuhle nerozumím, nebudu investovat". Horší investoři překračují hranice svých znalostí a chybují. Buffett slavně odmítl investovat do technologických bublin, protože přiznal, že byznysu nerozumí dostatečně. Mnoho investorů, kteří tvrdili, že rozumí, ztratilo peníze.

Epistémická skromnost — uvědomění si hranic vlastní znalosti — je spolehlivější signál kvality než sebejistota. Pokud AI model nikdy neříká "nevím" nebo "záleží na kontextu," pravděpodobně překračuje hranice svého pokrytí znalostí.

Konkrétní příklad AI ukazuje rozdíl. Model dostane otázku "Je homeopatie efektivní?" Dobře kalibrovaný model odpoví "Vědecký konsensus je, že homeopatie nemá prokázaný efekt nad placebo, i když někteří pacienti hlásí subjektivní zlepšení." Špatně kalibrovaný model odpoví "Ano, homeopatie je efektivní" nebo "Ne, homeopatie nefunguje vůbec" bez nuance.

První odpověď rozlišuje prokázané vědecké nálezy od subjektivních hlášení. Druhá a třetí zjednodušují složitou otázku na binární odpověď.

Proč RLHF vytváří tlak na přílišnou sebejistotu

Reinforcement Learning from Human Feedback učí modely generovat odpovědi, které lidé preferují. A lidé preferují sebejistotu, ne kalibraci.

RLHF funguje tak, že hodnotitelé porovnávají dvojice odpovědí a vybírají "lepší". Model se učí generovat odpovědi, které dostávají vyšší hodnocení. Problém: lidé systematicky preferují sebejisté odpovědi nad přesné, dlouhé nad stručné, autoritativní tón nad váhání.

Konkrétní mechanismus ukazuje, jak vzniká zkreslení RLHF preferencí.

Preference pro délku: Hodnotitelé preferují delší odpovědi — vypadají komplexnější a důkladnější. I když kratší odpověď je přesnější, delší dostane vyšší hodnocení. Model se učí být výřečný místo stručný.

Preference pro sebejistotu: Odpovědi s váháním ("možná", "záleží na kontextu", "není jednoznačné") dostávají nižší hodnocení než sebejisté odpovědi. Hodnotitelé interpretují váhání jako slabost, ne jako přesnou kalibraci. Model se učí eliminovat výhrady.

Preference pro plynulost: Odpověď, která zní autoritativně, dostává vyšší hodnocení než odpověď, která váhá nebo přiznává limity. Plynulost je vnímána jako indikátor kvality. Model se učí plynulost nad přesnost.

Výzkum kalibrace a alignment postupů ukazuje obecný trend. Modely po RLHF tréninku generují sebejistější odpovědi než základní model — i když základní model měl srovnatelnou přesnost. RLHF nezvýšil přesnost, zvýšil vnímanou jistotu.

Základní model řekne "tato otázka nemá jednoznačnou odpověď" častěji. Model po RLHF řekne "odpověď je X" častěji. Přesnost zůstala stejná. Sebejistota vzrostla.

Sycophancy je další vedlejší efekt. Pokud položíte naváděcí otázku ("Proč je X lepší než Y?"), model po RLHF má tendenci potvrdit předpoklad otázky místo jeho zpochybnění. Základní model řekne "není jasné, že X je lepší než Y, záleží na...". Model po RLHF řekne "X je lepší protože..." — i když předpoklad je chybný.

Model se naučil, že potvrzení předpokladů uživatele dostává vyšší hodnocení než jejich zpochybnění. Hodnotitelé preferovali odpovědi, které "pomáhají" místo těch, které "opravují".

RLHF alignment má nežádoucí vedlejší efekt: modely jsou trénovány, aby zněly jistě, ne aby byly kalibrované. Sebejistota není signál správnosti — je signál, že model prošel RLHF tréninkem, který preferuje sebejistotu.

Jak rozpoznat skutečnou nejistotu vs. simulovanou skromnost

Ne každý model, který říká "nevím", je dobře kalibrovaný. Některé modely se pouze naučily fráze bez skutečného uvědomění si nejistoty.

Existuje rozdíl mezi modelem, který vyjadřuje nejistotu, protože ví, že neví (kalibrovaná nejistota), a modelem, který říká "možná" nebo "záleží na kontextu" jako naučenou frázi bez uvědomění (simulovaná skromnost).

Tři diagnostické testy odhalí skutečnou nejistotu.

Test 1 — Konzistence napříč formulacemi

Položte stejnou otázku s různou formulací: "Je X pravda?" vs. "Souhlasíte s X?" vs. "Co si myslíte o X?"

Skutečně nejistý model bude konzistentně váhat napříč formulacemi. Ví, že otázka leží v oblasti nejistoty, nezáleží na tom, jak ji formulujete. Simulovaná skromnost: model váhá u jedné formulace a je sebejistý u druhé. Naučil se rozpoznat specifické vzorce, které spouštějí opatrné formulace, ale nerozumí základní nejistotě.

Test 2 — Granularita nejistoty

Skutečně kalibrovaný model rozlišuje úrovně nejistoty. "Toto je prokázáno" vs. "konsensus je X, ale existují výhrady" vs. "toto je sporné, závisí na Y" vs. "nemám dostatečná data".

Každá úroveň odpovídá různému typu epistémické pozice. Prokázáno = replicated findings. Konsensus s výhradami = majority view, ale existující disent. Sporné = aktivní debata v komunitě. Nedostatek dat = mimo pokrytí tréninku.

Simulovaná skromnost: model používá generické váhání ("možná", "pravděpodobně") bez specifikace, co přesně je nejisté. Všechny odpovědi znějí podobně nejednoznačně. Žádná granularita.

Test 3 — Schopnost kvantifikace

Požádejte model o kvantifikaci jistoty, ale berte přesná procenta jako suspektní.

Skutečná kalibrace: model dokáže vysvětlit proč je (ne)jistý (jaké předpoklady dělá, co by změnilo závěr, kde extrapoluje).

Simulovaná skromnost: model dá přesně vypadající pravděpodobnost bez toho, aby ji dokázal obhájit ověřitelnými důvody.

Praktický příklad ukazuje rozdíl. Dotaz "Jaké je hlavní město Francie?" → Dobře kalibrovaný model odpoví "Paříž" bez výhrad (vysoká jistota, správné). Dotaz "Jaký byl hlavní důvod pádu Římské říše?" → Dobře kalibrovaný model odpoví "Historici navrhují několik faktorů..." s výhradami (nízká jistota, složité). Špatně kalibrovaný model odpoví sebejistě na obě nebo váhá na obě.

Fráze váhání ("možná", "záleží na") nejsou samy o sobě indikátorem dobré kalibrace. Je potřeba testovat, zda model konzistentně vyjadřuje nejistotu tam, kde skutečně existuje — ne jen používá naučenou zdvořilost.

Kdy model říká "nevím" — a měl by častěji

Většina současných modelů říká "nevím" příliš zřídka. Hranice mezi "co vím" a "co nevím" je posunuta směrem k přílišné sebejistotě.

Srovnávací testy i kalibrační výzkum ukazují propast mezi jistotou a správností: model může být plynulý a asertivní i tehdy, když je špatně, a bez externího signálu se neumí spolehlivě sebekalibrovat. Praktický závěr je jednoduchý: sebejistý tón ber jako styl, ne jako důkaz.

Konkrétní kategorie, kde modely by měly váhat častěji:

Vzácné události nebo okrajové případy: Mimo běžnou trénovací distribuci. Model viděl málo nebo žádné příklady. Halucinace je pravděpodobná. Měl by říct "nemám dostatek dat o tomto specifickém případu".

Kontraintuitivní fakta: Kde zdravý rozum selhává. Model má tendenci generovat odpověď podle běžné intuice, která může být špatná. Měl by váhat nebo zmínit, že odpověď je překvapivá.

Specializované znalosti domény: Oblasti s řídkým pokrytím v tréninku (lékařská diagnostika, právní precedenty, technické specifikace). Model interpoluje věrohodně, ale často špatně. Měl by přiznat limity.

Morální nebo etické otázky: Kde neexistuje objektivně správná odpověď. Model může prezentovat různé perspektivy, ale neměl by tvrdit, že jedna je definitivně správná.

Otázky vyžadující aktuální data po datu ukončení tréninku (knowledge cutoff): Model může relevantní fakta prostě nemít. Měl by říct, že nemá aktuální informace, nebo požádat o zdroje a kontext.

Praktický framework pro hodnocení kalibrace modelu

Uživatel může testovat kalibraci AI modelu pomocí strukturovaných otázek, které mají známou správnou odpověď nebo známou nejednoznačnost.

Pokud chcete zjistit, zda model je dobře kalibrovaný (vyjadřuje nejistotu správně), použijte sadu testovacích otázek s různou úrovní obtížnosti a nejednoznačnosti.

Tři typy testovacích otázek odhalí profil kalibrace.

Typ 1 — Vysoká jistota (model by neměl váhat)

Faktické otázky s jednoznačnou odpovědí: "Kolik je 2+2?", "Kdo napsal Hamlet?", "Jaké je hlavní město Francie?"

Očekávané chování: Model odpoví sebejistě a správně. Žádné váhání. Žádné výhrady. Toto jsou otázky v jádru trénovací distribuce, viděné tisíckrát. Správně kalibrovaný model ví, že tady může být jistý.

Pokud model váhá u těchto otázek, je příliš opatrný (undercalibrated). Pokud odpovídá sebejistě, ale špatně, má chybu v tréninku, ne v kalibraci.

Typ 2 — Střední jistota (model by měl zmínit závislost na kontextu)

Otázky, kde odpověď závisí na kontextu nebo předpokladech: "Je Python lepší než Java?", "Kolik by měla mít firma zaměstnanců?", "Je lepší pracovat ráno nebo večer?"

Očekávané chování: Model odpoví "záleží na..." a specifikuje, jaké faktory ovlivňují odpověď. Pro Python vs. Java: záleží na typu projektu, týmu, infrastruktuře. Pro počet zaměstnanců: záleží na oboru, fázi růstu, business modelu.

Kalibrovaná nejistota: model rozpozná, že otázka nemá univerzální odpověď. Nabídne framework pro rozhodování místo binární odpovědi.

Pokud model odpovídá sebejistě ("Python je lepší") bez kontextu, je příliš sebejistý. Pokud váhá příliš ("nemohu odpovědět"), je příliš opatrný.

Typ 3 — Nízká jistota (model by měl říct "nevím" nebo váhat výrazně)

Otázky mimo trénovací distribuci nebo s inherentní nejednoznačností: "Co si myslíš o této specifické právní case z minulého týdne?", "Jaká bude cena Bitcoinu za rok?", "Diagnostikuj pacienta s těmito vzácnými symptomy."

Očekávané chování: Model explicitně řekne "nemám aktuální data" nebo "toto je spekulativní" nebo "závisí na mnoha neznámých faktorech, nemohu předpovědět spolehlivě".

Správně kalibrovaný model přizná limity. Ví, že nemá dostatečné pokrytí nebo že otázka je fundamentálně nepředvídatelná.

Pokud model selže na Typ 2 nebo 3 (neváhá, kde by měl), je příliš sebejistý. Pokud váhá na Typ 1 (kde by neměl), je příliš opatrný. Dobře kalibrovaný model má správný profil chování napříč všemi třemi typy.

Pracovní postupy s více modely (např. CrossChat) poskytují implicitní kontrolu kalibrace — pokud tři modely nesouhlasí, je to signál inherentní nejistoty v otázce. Nízká shoda je praktický signál, že otázka je nejednoznačná, sporná nebo mimo hustě pokrytou oblast. To je forma kolektivní epistémické skromnosti.

Proč je to důležitější než se zdá

Příliš sebejisté AI modely v kontextech s vysokými sázkami jsou nebezpečnější než méně přesné, ale dobře kalibrované modely — protože uživatel nemá varovný signál.

Rozdíl mezi "model, který halucinuje a přiznává nejistotu" a "model, který halucinuje sebejistě" je kritický. První dává uživateli šanci ověřit. Druhý ne.

Konkrétní situace s vysokými sázkami ukazují důležitost.

Medicína: AI model navrhuje diagnózu. Pokud říká "toto je nejpravděpodobnější, ale doporučuji další testy", lékař ví, že má ověřit. Pokud říká "diagnóza je X" sebejistě, lékař může neprovést další testy — a chybná diagnóza způsobí újmu pacientovi.

Lékař nemá čas ověřovat každou AI odpověď. Spoléhá na model, že signalizuje, kdy je odpověď nejistá. Sebejistá chybná odpověď je horší než opatrná správná — první způsobí újmu, druhá pouze dodatečnou práci.

Právo: AI model cituje precedent. Pokud říká "podobné případy jsou X, Y, ale tento případ má unikátní faktory," právník ví, že má zkontrolovat. Pokud cituje sebejistě (i když halucinuje), právník může použít vymyšlenou citaci v dokumentu předloženém soudu.

Důsledky: disciplinární řízení, ztráta licence, žaloba od klienta. Vše proto, že model nesignalizoval nejistotu.

Byznys: AI model doporučuje strategii. Pokud říká "založeno na těchto datech doporučuji X, ale závisí na Y předpokladech," manažer ví, že má validovat předpoklady. Pokud doporučí sebejistě bez výhrad, manažer může implementovat bez kritického přezkoumání.

Špatná strategie může stát miliony. Model, který váhá správně, chrání před impulsivním rozhodnutím.

Kalibrace není jen akademický koncept — má přímý dopad na bezpečnost použití v situacích s vysokými sázkami. Model, který říká "nevím" častěji, může mít nižší vnímanou užitečnost, ale vyšší skutečnou bezpečnost.

Kompromis mezi "užitečnost" (vždy odpovídá) a "spolehlivost" (váhá, kde by měl) je fundamentální designové rozhodnutí. Většina současných modelů optimalizuje užitečnost. Měly by optimalizovat spolehlivost.

Proč na tom dlouhodobě záleží: Pokud uživatelé začnou důvěřovat příliš sebejistým modelům (které vždy odpovídají sebejistě), přizpůsobí tomu pracovní postup, který nepočítá s ověřením. To vytváří systémové riziko — jednou chyba není zachycena, protože model nediferencuje mezi "vím to jistě" a "uhádl jsem to věrohodně".

Pracovní postup se přizpůsobuje nástroji. Pokud nástroj nikdy neříká "nejsem si jistý", pracovní postup přestane zahrnovat ověřovací kroky. A pak jediná chyba způsobí újmu.

Praktický závěr

1. Preferuj modely, které vyjadřují nejistotu, nad modely, které vždy odpovídají sebejistě. Fráze váhání ("záleží na kontextu", "není jednoznačné") jsou vlastnost, ne chyba. Model, který nikdy neváhá, je pravděpodobně příliš sebejistý. Váhání je signál kalibrace.

2. Testuj kalibraci modelu na známých nejednoznačných otázkách. Polož otázky, kde víš, že správná odpověď je "záleží na..." nebo "není konsensus". Pokud model odpovídá sebejistě, je příliš sebejistý. Pokud váhá správně, je lépe kalibrovaný. Tři typy otázek: vysoká jistota (neváhat), střední jistota (zmínit kontext), nízká jistota (přiznat limity).

3. V kontextech s vysokými sázkami, ber vážně, když model váhá. Pokud AI říká "toto vyžaduje další kontext" nebo "nejsem si jistý," to není slabost modelu — je to varovný signál, že otázka je mimo hustě pokrytou oblast nebo inherentně nejednoznačná. Ověř přes externí zdroj. Váhání je informace, ne překážka.

4. Preferuj pracovní postupy s více modely pro kontrolu kalibrace. Pokud tři nezávislé modely dají různé odpovědi, je to kolektivní vyjádření nejistoty — otázka leží v oblasti, kde pokrytí znalostí není dostatečné nebo kde neexistuje jednoznačná odpověď. Neshoda je informace, ne chyba.

Zdroje

Dunning, D. & Kruger, J. (1999). Unskilled and Unaware of It: How Difficulties in Recognizing One's Own Incompetence Lead to Inflated Self-Assessments. Journal of Personality and Social Psychology, 77(6), 1121–1134. — Klasická studie o tom, proč lidé s nízkou kompetencí nedokážou rozpoznat vlastní mezery.
Bai, Y. et al. (2022). Constitutional AI: Harmlessness from AI Feedback. arXiv:2212.08073. DOI: 10.48550/arXiv.2212.08073.
Lin, S. et al. (2021). TruthfulQA: Measuring How Models Mimic Human Falsehoods. arXiv:2109.07958. DOI: 10.48550/arXiv.2109.07958.
Guo, C. et al. (2017). On Calibration of Modern Neural Networks. ICML 2017. — Proč neuronové sítě jsou systematicky příliš sebejisté a jak měřit kalibraci.

Historie úprav

Koncept: Claude Code + Anthropic Sonnet 4.6 Verze 1: Claude Code + Anthropic Sonnet 4.6 Verze 2: Codex + GPT-5.2

Jazyková revize (2026-02-25, Codex + GPT-5): opravena stylistika, překlepy a rozpadlé řádky; omezeny zbytečné anglicismy a zpřesněny formulace. Kvalitativní audit (2026-03-23, Claude Code + Claude Opus 4.6): přidán Rámec tvrzení, ověřeny zdroje, jazyková úprava.