Cos’è un token IA
Cos’è un token IA? È il pezzo di testo con cui un modello conta: non una lettera e non proprio una parola, ma qualcosa in mezzo. Un frammento frequente di caratteri che il modello trasforma in numeri prima di poterci lavorare.
Cos’è un token IA, dal punto di vista del modello
I modelli non leggono parole, leggono token: frammenti frequenti di testo associati a numeri. In inglese un token vale in media circa quattro caratteri, cioè poco meno di una parola.
L’italiano ci rimette. Con desinenze, articoli e parole lunghe che si spezzano, una parola italiana vale in media da una a due token e mezzo, e una pagina A4 fitta sta intorno ai mille token, contro i circa settecento dell’inglese. Dipende dal vocabolario del modello: non c’è modo di scrivere per aggirarlo.
Perché decide quanto paghi
Le API si pagano a token, e non solo per la tua domanda: contano il materiale che hai incollato, la conversazione fin lì e la risposta del modello.
Per questo una conversazione lunga costa di più a ogni passaggio. Alla decima domanda paghi anche le nove precedenti, perché tutta la cronologia rientra nel modello ogni volta.
Come consumarne meno
Quando cambia l’argomento, apri una conversazione nuova. Il modello non se la prende, e smetti di trascinarti dietro cinquanta paragrafi che non c’entrano.
Con un documento grande, dai la parte che serve e non tutto. Un contesto lungo non solo costa di più, ma è anche meno preciso, perché il punto si perde nel riempitivo.
Domande frequenti
Cos’è un token IA, in una frase?
È l’unità di testo che un modello legge e fa pagare. Tutto quello che scrivi e tutto quello che risponde si conta in token, e anche i limiti.
Quante parole è un token?
In inglese poco meno di una parola, in media. In italiano meno ancora: da una a due token e mezzo a parola. Punteggiatura e parole rare si spezzano in più token, quindi il codice e i nomi costano più della prosa semplice.
Perché una conversazione lunga costa di più?
Perché a ogni nuova domanda viene rimandata tutta la cronologia. Il costo di una conversazione cresce più in fretta del numero dei messaggi.
I token limitano quanto posso incollare?
Sì. La finestra di contesto si misura in token, quindi un documento che la supera va diviso o riassunto prima che il modello possa lavorarci.