Co to jest LLM?
Co to jest LLM? To skrót od large language model, czyli duży model językowy: program wytrenowany na ogromnej ilości tekstu, by przewidywać, jaki tekst będzie dalej. ChatGPT, Claude i Gemini są zbudowane na LLM-ach.
Co to jest LLM, bez matematyki
Duży model językowy to nie baza danych ani wyszukiwarka. Nie przechowuje faktów, które można sprawdzić, tylko wzorce: jaki rodzaj tekstu zwykle następuje po jakim.
Dlatego potrafi pisać płynnie o czymś, o czym nie ma wiarygodnej wiedzy. Płynność to jego zdolność, a nie dowód, że treść jest poprawna.
Dlaczego LLM pewnie się myli
Gdy brakuje szczegółu, model się nie zatrzymuje, tylko pisze najbardziej prawdopodobną kontynuację. Takie zachowanie nazywa się halucynacją i wynika z samego sposobu działania, a nie z błędu konkretnego produktu.
Praktyczna obrona jest nudna i skuteczna: wpisz fakty do promptu i nie proś o dane, które i tak musiałbyś zweryfikować.
W czym LLM jest dobry, a w czym nie
Dobry tam, gdzie tekst wchodzi i tekst wychodzi: skracanie, przepisywanie, streszczanie, pierwsze wersje, zmiana formatu, szkice kodu.
Słaby w podawaniu jednego precyzyjnego faktu, którego sam nie znasz, bo nie ma z czym porównać odpowiedzi. Wtedy błąd tylko szybciej do ciebie dociera.
Częste pytania
Co to jest LLM w jednym zdaniu?
Duży model językowy: program, który z tekstu nauczył się, jaki tekst zwykle następuje po jakim, i na podstawie tych wzorców tworzy nowy.
Czy LLM to to samo co AI?
Nie. AI to pojęcie nadrzędne, a LLM to jeden z jego rodzajów, ten, który pracuje z tekstem. Modele obrazu to też AI, ale nie modele językowe.
Który LLM jest najlepszy?
Zależy od pracy i odpowiedź zmienia się co kilka miesięcy. Przetestowanie dwóch na zadaniu, które naprawdę powtarzasz, powie ci więcej niż jakakolwiek tabela benchmarków.
Czy LLM uczy się z moich rozmów?
Sam model nie zmienia się podczas rozmowy. To, czy dostawca użyje twoich rozmów do dalszego treningu, zależy od ustawień i regulaminu danego produktu, więc właśnie to trzeba sprawdzić.