Строить, внедрять, строить снова: семь месяцев поиска персонального инструмента искусственного интеллекта

Введение Open Walnut — это автономный персональный ИИ: задачи, заметки, долговременная память и сеансы Claude Code в одном веб-приложении. За семь месяцев мы дважды заменили поисковую систему. Мы написали свою собственную, выбросили ее в библиотеку с открытым исходным кодом, а затем снова написали свою поверх двух небольших библиотек. В этом посте рассказывается, почему мы внесли изменения дважды, что измеряла каждая версия и как работает текущий движок. Поиск был основной функцией, а токенизация, определяющая, что вообще можно найти, была единственным компонентом, который библиотека не позволила нам заменить. Как только он переместился в наш код, остальная часть движка оказалась уже в нашем стеке. Вторая смена флага заняла одиннадцать дней. Четыре месяца исправлений перед этим стоили дороже. Рисунок 1. Три двигателя и почему мы оставили каждый из них. Почему поиск является основой инструмента искусственного интеллекта Поиск в личном инструменте ИИ осуществляется по трем путям, и только один из них начинается с ввода текста человеком. Человек вводит текст в поле поиска, глядя на доску задач. Агент вызывает Task_search и Memory_notes_search как инструменты, отвечая на вопрос. Если поиск промахивается, модель отвечает из строк, которые ей были переданы, и дает неверный ответ.