скорость главное да, но не только я думаю еще CLI это в любом случае багаж из гр

скорость главное да, но не только
я думаю еще CLI это в любом случае багаж из грузного харнесса поверх всего говна которое и так сыплется модели в голову
И это не может не вносить свой вес
Просто все метрики качества восприятия чатботом "доктрины чаттера" на базе которой работает чат-интервью прыгнули вверх на 100-300% через API токен
До этого я разумеется прикидывался евреем и пытался гонять тесты исключительно на подписках
Причем у Kimi вообще занятная штука всплыла
Оказывается у Kimi в подписке НЕТ РУЧКИ РИЗОНИНГА
Она типа есть, но не работает
Ни на что вообще не влияет =)
По API ризонинг явно переключал ризонинг, и это сказывалось на всех метриках так как ожидаешь должно сказываться переключение ризонинга
Через CLI вообще нихуя не менялось.

что Low что High что Max - одна хуйня
Я полагаю у них сейчас все возможные меры борьбы с нагрузкой в ходу из-за ультра перегруза (наверно когда стартап стоимостью (раздутой пиздец) 18 ярдов привлекает к себе внимание рынка на десяток триллионов - так и бывает)
И один из методов подлый адаптив ризонинг в подписке
Типа ты выбираешь Макс но что тебе наливают решает балансер а не эта твоя выбранная ручка)
По API кими на Low например выдавал 105 токенов, а на Max 2450
в ответ на очень простое утверждение в чате ни к чему не обязывающее
То бишь по API макс в 25-30 раз больше ризонинга выдает на входящий токен
Через подписку это просто непредсказуемая становится штука
Выдавало все что угодно между 105 и 2450 на этот же запрос, включая экстремумы
Иными словами - если вам кажется что Кими охуенно обработала запрос - вам не кажется
Если вам кажется что кими ебано обработала запрос - вы абсолютно правы
И то и другое происходит с вами постоянно когда вы обращаетесь к Кими через подписку (не важно CLI или через токен подписочный - между ними разницы никакой, это мы тоже протестили и для кими и для квена)