Кстати, вдогонку к предыдущему: Прикиньте какая работа была проделана по контекс

Кстати, вдогонку к предыдущему:

Прикиньте какая работа была проделана по контексту, что вся эта безошибочность и четверосуточность и ширина на сотни тыщ строк кода (боюсь представить себе сколько инфы модели пришлось в этой сессии прочитать) - произошла на 258k токенах контекста?

Мне кажется это доказывает что мы уже давно живем в виртуальном мире и Вачовски были абсолютно правы - nothing is real.

Вы часто думаете о том как вообще этот компакшен работает? Как он может быть устроен? Куда складывается вся эта гигантская прорва разношерстной памяти? Как выглядит это хранилище, и в чем его механика?

Я думаю что вот этот knowledge vault не менее а может и более важен сам по себе чем модель. И я думаю это главный secret sause и строжайшая коммерческая тайна крупных AI вендоров.