Co je LLM

Co je LLM bez matematiky

Velký jazykový model není databáze ani vyhledávač. Neukládá fakta, která bys mohl dohledat, ukládá vzorce: jaký text bývá po jakém textu.

Proto dokáže plynule psát o věcech, o kterých nemá spolehlivé znalosti. Plynulost je schopnost, ne důkaz, že obsah sedí.

Proč si je jistý, i když se mýlí

Když detail chybí, model se nezastaví, napíše nejpravděpodobnější pokračování. Tomu se říká halucinace a je to důsledek toho, jak věc funguje, ne chyba konkrétního produktu.

Praktická obrana je nudná a účinná: dej fakta do promptu a nežádej údaje, které bys stejně musel ověřovat.

V čem je dobrý a v čem špatný

Dobrý je v práci, kde text vstupuje a text vychází: zkracování, přepisování, shrnování, první verze, změna formátu, náčrty kódu.

Špatný je tam, kde potřebuješ jeden přesný fakt, který sám nemáš, protože není s čím odpověď porovnat. Tam jen chyba dorazí rychleji.

Co je LLM jednou větou?

Velký jazykový model: program, který se z textu naučil, jaký text obvykle následuje po jakém, a z těch vzorců vytváří nový text.

Je model LLM totéž co AI?

Ne. AI je zastřešující pojem a model LLM je jeden druh AI, ten, který pracuje s textem. Modely na obrázky jsou také AI, ale jazykové modely to nejsou.

Který LLM je nejlepší?

Záleží na práci a odpověď se mění každých pár měsíců. Vyzkoušet dva na úkolu, který opravdu opakuješ, ti řekne víc než jakákoli tabulka benchmarků.

Učí se model LLM z mých konverzací?

Samotný model se při rozhovoru nemění. Jestli poskytovatel používá konverzace k dalšímu trénování, závisí na nastavení a podmínkách konkrétního produktu, a právě to je třeba zkontrolovat.