Большинство объяснений про LLM выглядят сложно: статистика, программирование, лингвистика. Но чтобы разобраться в работе ChatGPT и других языковых моделей, не нужно быть инженером. Достаточно понимать базовые принципы: про модель, токены и температуру
LLM: большая языковая модель
LLM (Large Language Model) — это Большая Языковая Модель.
- Large (Большая) — потому что модель обучалась на огромных массивах текста из интернета.
- Language (Языковая) — потому что работает со словами и текстами.
- Model (Модель) — потому что это система, которая предсказывает наиболее подходящее слово в контексте.
Важно помнить: модель не «знает» и не «чувствует» информацию. Она лишь опирается на статистику и предыдущие примеры, чтобы предсказать следующее слово.
Токены: фрагменты текста
Токен — это не слово и не буква, а единица текста.
Примеры:
- «кот» = 1 токен
- «neuralnetworking» = может делиться на 2–3 токена
LLM работает только с токенами, преобразованными в числа. Чем больше токенов в запросе или ответе, тем дольше занимает генерация текста и тем выше её стоимость.
Температура: степень креативности
Температура управляет тем, насколько «творческим» будет ответ модели.
| Значение | Как работает модель | Где полезно | Где нежелательно |
|---|---|---|---|
| 0 | Строго предсказуемо | Код, инструкции, юридические тексты | Слишком шаблонно для идей |
| 1 | Баланс между логикой и вариативностью | Брейншторминг, статьи | Может давать неожиданные повороты |
| 2+ | Максимальная креативность и хаос | Сказки, креативная реклама | Не подходит для точных документов |
Как это работает на практике
- Запрос превращается в токены.
- Токены отправляются на сервер.
- Модель анализирует каждый токен и выбирает следующий.
- Процесс повторяется до конца текста.
По сути, генерация — это последовательность статистических прогнозов.
Зачем это знать
- Это помогает правильно оценивать возможности моделей: они предсказывают, а не думают.
- Можно писать более точные промпты, понимая, как обрабатывается текст.
- Проще объяснять неожиданные результаты: например, слишком высокая температура даёт «размытые» ответы.
Табличка — чтобы сохранить себе
| Параметр | Определение | Пример |
|---|---|---|
| LLM | Большая языковая модель | Т9, обученный на огромном количестве текстов |
| Токен | Фрагмент текста | «кот» = 1 токен, «сложное_слово» = несколько токенов |
| Температура | Настройка случайности в ответах | 0 = строго, 1 = умеренно, 2+ = хаотично |
