Кто-то на GitHub спросил, может ли jevmem работать полностью локально. Справедливый вопрос. Сегодня jevmem нужен платный ключ API TypeSafe: он отправляет каждое сообщение с удаленными общими секретами в API Jev TypeSafe, чтобы решить, что стоит сохранить. Оллайя открывает де...
Кто-то на GitHub спросил, может ли jevmem работать полностью локально.
Справедливый вопрос. Сегодня jevmem нужен платный ключ API TypeSafe: он отправляет каждое сообщение с удаленными общими секретами в API Jev TypeSafe, чтобы решить, что стоит сохранить.
Оллайя запускает открытые модели принятия решений на вашем компьютере и отвечает в том же формате, что и API Jev. Поэтому я указал на него.
Подключилось без изменения кода: один URL, любой ключ и название модели в конфиге.
Затем я провел те же тесты, что и для Джева.
Настройка
2 октября 2026 г. M4 Mac с 16 ГБ, Ollaya 0.9.0. По одному забегу на каждого, рядом с забегом Джева в тот же день.
Решаем, что сохранить (66 отложенных ходов)
Сохранить/пропустить вправо
Сохранить + доброе право
Медиана за ход
Джев
65/66
63/66
0,23 с
веялка:e4b (8 ГБ)
60/66
57/66
28,5 с
Laya:Typed-Decisions (852 МБ)
19/66
19/66
13,6 с
Обеим локальным моделям требовалось увеличить таймаут клиента с 10 до 180 с.
Возврат и стража (только Лайя)
Напомним: в течение 1-секундного бюджета jevmem ответ не пришел, поэтому каждое приглашение сводилось к сопоставлению слов: 48 из 78 нужных строк против 73 у Jev. Его контекст из 1024 токенов все равно не может содержать 18-строчный файл памяти.
Guard: достаточно быстрый (медиана 158 мс), но он поймал 43 из 68 нарушений правил с 13 ложными срабатываниями.