Post #682

Reasonin tokens или плата за мыслительный процесс модели. Когда вы будете использовать o1 модели через API, кроме input/output токенов (их цены я показал тут), еще есть понятие reasoning tokens и вы будете оплачивать их тоже (по цене output tokens). Вот что пишет OpenAI: While reasoning tokens are not visible via the API, they still occupy space in the model's context window and are billed as output tokens. А как мы помни, мыслительный процесс штука неуправляемая. Модель может думать несколько секунд, а может и минуту, а в будущем часы/дни/недели (в зависимости от того какой глубины размышления вам нужны). И вот как понять, сколько будет стоить ваш запрос в итоге, как будто пока сложно прогнозируемая штука. При этом еще нужно помнить о контекстном окне в 128к токенов и итоговый ответ легко может выйти за рамки из-за ризонинга. В итоге: с вас 15 центов за запрос, 5 баксов за мыслительный процесс (мне пришлось хорошенько поразмыслить) и 20% чаевых 🎩. Модели становятся всё больше похоже на людей 😁 ИИволюция