Как параметры temperature, top_p и top_k влияют на сэмплинг?

Эти параметры управляют тем, как из распределения вероятностей выбирается следующий токен. Temperature делит логиты перед softmax: 0 = детерминированно, 1 = «как обучилось», >1 = более случайно. Top-k оставляет только k самых вероятных токенов. Top-p (nucleus) оставляет минимальный набор токенов с суммарной вероятностью ≥ p. Для кода и фактов используй низкие значения, для творчества — высокие.