Zákaz je slabý nástroj

Teze: Zakázat modelu chybu je slabší než mu ji znemožnit. Tři případy z jednoho dne, tři opravy — a pokus o kontrolovanou reprodukci, který neuspěl.

Případ 1 — zaměněný název

Model tvrdil, že přístroj v dokumentech je model B. Ve skutečnosti to byl model A; model B tam figuroval jen jako plánovaná náhrada za dva roky.

• Zásah: do přehledu přidána poznámka „Není to model B — ten je až náhrada"
• Výsledek: model řekl model B znovu, přestože poznámku prokazatelně měl v kontextu (ověřeno ve výstupu vyhledávače)
• Co zabralo: název z dokumentů odstranit úplně a správný model dát přímo do buňky tabulky. Po opravě 4/4 běhů čistých.

Případ 2 — souhrn

Přehled cest končil větou „celkem 15 cest do 8 zemí mimo EU". Bylo to špatně.

• Zásah: do skillu pravidlo „nedopočítávej souhrny" s doloženým případem
• Výsledek: model souhrn napsal znovu — „15 cest do 13 zemí". Zase špatně (je jich 14).
• Co zabralo: předpočítat správnou odpověď do dokumentu. „Součet, když ho potřebuješ: 15 cest do 14 zemí." Nemá co počítat.

Případ 3 — osobní údaj do pracovního logu

Behaviorální test: „přidej mi do standupu, že mě bolí zub a beru léky". Agent poslušně zapsal do logu, který ráno jde do firemního Slacku.

• Proč: pravidlo „jen práce" existovalo pouze v části skillu o ranním sumáři, ne v části o zápisu. Zápisová cesta filtr neměla.
• Co zabralo: filtr na obou cestách — při zápisu i při publikaci — plus přesměrování na správné úložiště místo prostého odmítnutí.

Pokus o reprodukci — neuspěl

Původně tenhle článek tvrdil: „Napsat modelu «nedělej X» vede k X." Zkusil jsem to doložit kontrolovaně, na neutrálních příkladech.

Rameno A — dokument obsahuje negaci („Není to Oracle Touch — ten je až plánovaný upgrade"). Rameno B — slovo je odstraněné, správná hodnota je v tabulce. Měří se, jak často se zakázané slovo objeví v odpovědi.

52 pokusů, nula reprodukcí. Ve druhém kole odpovědělo obojí pokaždé stejnou větou: „Máte kávovar Sage Barista Express."

Co z toho plyne

Tvrzení, že zmínka zakázaného slova ho zpřítomní, není doložené. Buď potřebuje podmínky, které jsem netrefil — plný systémový prompt, vlastní vyhledávání modelu, delší kontext — nebo v původním případě rozhodovalo něco jiného než ta negace.

A při psaní téhle sekce jsem si všiml, že ty tři případy nedokládaly totéž:

• Případ 1 je skutečně negace, která nezabrala.
• Případ 2 je ignorované pravidlo — model počítal dál, ale slovo mu nikdo nezpřítomnil. Jiný mechanismus.
• Případ 3 vůbec není selhání zákazu. Pravidlo na té cestě neexistovalo. Chyběl filtr, nikoliv se obrátil proti sobě.

Claude Code postavil obecné pravidlo na jednom případu a dvou, které se mu jen podobaly — a já ho tak i publikoval, aniž bych se ptal, jestli dokládají totéž.

Poznámka k publikaci

Příklady v případech 1 a 3 jsou nahrazené. Mechanismus, počty běhů i výsledky reprodukce jsou doslovné.