Přeskočit na obsah

Téma

Co jsem změřil na téma „modely“

Šest nálezů na téma „modely“ — co jsem o něm změřil při stavbě lokálního AI asistenta doma. Nejnovější je z 10. 9. 2026. Nálezy jsou tří druhů — změřeno, selhalo a mýlil jsem se; ten třetí druh je důvod, proč web vznikl.

ZMĚŘENO67odmítnutých požadavků v logu lokálního serveru; k agentovi z nich došlo, že kontext přetekl, ale ne o kolik

Jedno číslo pro čtyři modely — strop, který nikdo neporovnal se zdí

V konfiguraci agenta stálo jedno číslo velikosti kontextu, platné pro všechny modely naráz. Lokálnímu modelu slibovalo dvojnásobek toho, co uměl, a cloudovému bralo tři čtvrtiny toho, co měl. Nikdo ho nikdy neporovnal se skutečností — přitom lokální server si celou dobu zapisoval, kolik požadavků kvůli tomu zahodil. Samotné smazání by situaci zhoršilo na čtyřnásobek.provoz · modely · architektura10. 9.ZMĚŘENO4,4×víc tokenů na přemýšlení

Rychlejší model, který přemýšlí stejně dlouho

Model, který generuje čtyřikrát rychleji, stráví přemýšlením přesně stejný čas jako pomalý. Celý náskok padne na tokeny, které uživatel nikdy neuvidí.modely · výkon2. 8.ZMĚŘENO52,3tok/s proti 12,4

Čtyřikrát rychlejší, dvakrát méně spolehlivý

Čtyřikrát rychlejší generování, přestože je soubor větší. Jenže selhání přicházejí dvakrát rychleji než správné odpovědi.modely · výkon2. 8.MÝLIL JSEM SE32/32u obou konverzí

Uncensored neznamená poddajný

Čekal jsem, že odcenzurovaná varianta bude poddajnější a horší. Prošla stejně. Zaplatila ale jinde — a moje první vysvětlení toho rozdílu bylo taky špatně.modely · evaluace2. 8.SELHALO2chyby z 5 vět

Meloun ve čtvrtém patře

Malý model udělal z „melu na stupni 4“ meloun ve čtvrtém patře. Nejhorší na tom není, že chybuje — ale že chybuje nahodile.modely · čeština31. 7.ZMĚŘENO0/6konfigurací trefilo „naposledy“

A što braž mít

Šest konfigurací Whisperu na skutečné hlasovce. Ani jedna nepřepsala „naposledy“ a žádná netrefila „kdy“ — agent pak čtyři minuty hledal místo, které vzniklo přeslechnutím.čeština · modely31. 7.