Token

L'unità base di testo elaborata da un LLM. Un token è tipicamente una parola o parte di parola. In inglese, circa 1 token ≈ 4 caratteri. I modelli hanno un contesto massimo misurato in token: GPT-4 supporta 128K token, mentre Llama 3 supporta 128K. Più token = più contesto ma più risorse necessarie.