Čo je LLM

Čo je LLM bez matematiky

Veľký jazykový model nie je databáza ani vyhľadávač. Neukladá fakty, ktoré by sa dali vyhľadať, ukladá vzorce: aký text sa zvykne objaviť po akom texte.

Preto vie plynulo písať o veci, o ktorej nemá spoľahlivé vedomosti. Plynulosť je schopnosť, nie dôkaz, že obsah je správny.

Prečo sa mýli s istotou

Keď chýba detail, model sa nezastaví, napíše najpravdepodobnejšie pokračovanie. Tomu sa hovorí halucinácia a je to dôsledok toho, ako to celé funguje, nie chyba konkrétneho produktu.

Praktická obrana je nudná a účinná: fakty daj do promptu a nepýtaj si údaje, ktoré treba aj tak overovať.

V čom je dobrý a v čom zlý

Dobrý je v práci, kde text vstupuje aj vystupuje: skracovanie, prepisovanie, zhrnutia, prvé verzie, zmeny formátu, náčrty kódu.

Zlý je v tom, keď treba jeden presný fakt, ktorý ešte nemáš, lebo nie je s čím odpoveď porovnať. Tam len urýchli príchod chyby.

Čo je LLM jednou vetou?

Veľký jazykový model: program, ktorý sa z textu naučil, aký text nasleduje po akom, a z týchto vzorcov vytvára nový text.

Je LLM to isté ako AI?

Nie. AI je zastrešujúci pojem a LLM je jeden druh AI, ten, ktorý pracuje s textom. Aj modely na obrázky sú AI, ale nie sú to jazykové modely.

Ktorý LLM je najlepší?

Závisí od práce a odpoveď sa mení každých pár mesiacov. Vyskúšať dva na úlohe, ktorú naozaj opakuješ, ti povie viac než ktorákoľvek tabuľka s benchmarkmi.

Učí sa LLM z mojich rozhovorov?

Samotný model sa počas rozhovoru nemení. Či poskytovateľ používa tvoje rozhovory na budúce trénovanie, závisí od nastavení a podmienok daného produktu, takže práve to si skontroluj.