Сэкономить на токенах

Второй используемый способ экономии – замена встроенных размышлений нейронок. LeanLLM применяет дешевые LLM для построения плана запроса, дробит данные на кусочки и отправляет в дорогую сеть уменьшенный контекст. Обычно без потери качества финального ответа. Всегда с экономией денег.

Лучше всего механика работает на повторении тысяч похожих запросов – проверка тысяч юридических договоров или что-то аналогичное. Для таких сценариев LeanLLM обещает экономию до 40% от всех расходов на токены. Стоить клиенту это будет ровно в 2 раза меньше, стартап не берет денег за подписку, но хочет получать половину того, что вы не заплатили OpenAI, Anthropic и остальным.

Компания запущена совсем недавно, один из сооснователей – члена клуба ShareAI Петр Марков. Инвестиций проект пока не привлекал.

https://leanllm.ai/

#ai #технология #россия #сша #насвои