Cos’è un LLM

Cos’è un LLM, senza la matematica

Un LLM non è un database e non è un motore di ricerca. Non conserva fatti da consultare, conserva schemi: che tipo di testo tende a seguire che tipo di testo.

Per questo può scrivere con scioltezza di qualcosa che non conosce in modo affidabile. La scioltezza è la sua capacità, non la prova che il contenuto sia giusto.

Perché sbaglia con sicurezza

Quando manca un dettaglio il modello non si ferma: scrive il seguito più plausibile. Questo comportamento si chiama allucinazione, ed è una conseguenza di come funziona, non un bug di un prodotto in particolare.

La difesa pratica è noiosa ed efficace: metti i fatti nel prompt e non chiedere dati che dovresti comunque verificare.

Cosa sa fare bene e cosa male

Bene, dove entra testo ed esce testo: accorciare, riscrivere, riassumere, prime bozze, cambi di formato, abbozzi di codice.

Male, nel produrre un dato preciso che non hai già, perché non c’è niente con cui controllare la risposta. Lì fa solo arrivare l’errore più in fretta.

Cos’è un LLM in una frase?

Un modello linguistico di grandi dimensioni: un programma che ha imparato dai testi quale testo tende a seguire quale, e produce testo nuovo da quegli schemi.

Un LLM è la stessa cosa dell’AI?

No. L’AI è il termine ombrello e un LLM è un tipo di AI, quello che lavora con il testo. Anche i modelli per le immagini sono AI, ma non sono modelli linguistici.

Qual è il miglior LLM?

Dipende dal lavoro, e la risposta cambia ogni pochi mesi. Provare due modelli su un compito che ripeti davvero ti dice più di qualsiasi tabella di benchmark.

Un LLM impara dalle mie conversazioni?

Il modello in sé non cambia mentre ci parli. Se il fornitore usa le tue conversazioni per addestramenti futuri dipende dalle impostazioni e dai termini di quel prodotto, ed è quello che devi controllare.