Это просто 1) Купить S3 за 8 долларов 2) Настроить бэкап туда с двух серваков 3

Астра еще и медленная стала, то бишь они все делают для того чтобы подписка жрала как можно меньше инференса

Я вчера очень много раз сравнил Опус Фэйбл и Астру на одном и том же

Такие задачи делаю в которых много даббл-чекинга не помешает

И короче то что Астра делает час, опус делает 8-10 минут, фэйбл ~25-30 минут

Опус жрет 2%, Астра 30-40%, фэйбл 5-10%

Но у меня подписка типа /5 за сотку, значит в целом наверно астра сожрала бы столько же сколько фэйбл

Типа Астра реально выдает 1000 строк аутпута иной раз за сука пару часов

О чем она там думает молча хуй проссышь я ставлю ставку что ни о чем, а просто в очереди стоит на инференс

Да какой им нахуй суперфаст бро когда они на слоу не справляются

я понимаю ждать х16 фаста когда на нормале все летает

пока что каждый день только уменьшается value for money так-то

Другое оборудование если то тогда вообще забудь))))))

Щас вот они датацентров понастроили/напокупали на полтриллиона, и спустя год такие да нахуй их

а тут много людей Fast режимом хотя бы пользуется?

Как я начал вайбдрочить - с тех пор ничего не изменилось, единственная важная метрика - точность/интеллект

а не от скорости инференса

я бы сказал даже что урона больше когда фаст делает хуйню