Токен
Маленька одиниця тексту — приблизно частина слова, — яку моделі читають і породжують; в AskClear баланс показано як гроші, а не токени.
Визначення
Моделі читають текст не як літери чи цілі слова, а як токени: невеликі шматки, що часто є цілим словом, частиною слова або розділовим знаком. Грубе правило: один токен — це приблизно чотири символи, або три чверті слова, в англійській, тож коротка фраза на кшталт 'мені потрібна допомога з договором' — це приблизно сім токенів. Це просто одиниця, у якій модель рахує текст.
Чому це важливо
Токени — прихована одиниця і для контекстного вікна, і для обсягу роботи над відповіддю, тому довгі документи витрачають їх більше. Але в AskClear ви ніколи не бачите й не купуєте токени: ваш баланс завжди показано як грошову суму, а витрати за тарифом — як простий відсоток. Токени лише пояснюють за лаштунками, чому в дуже довгого джерела є межа розміру й чому великий запит трохи більше витрачає ваш баланс.