Я почти убил все галлюцинации GLM 5.3 Flash 2 бит, с помощью SIMURG

Сегодня вечером я провел небольшой эксперимент и должен поделиться им, потому что результат, честно говоря, меня удивил. Установка Я подключил нашу GLM 5.3 Flash in 2 bit к SIMURG. Если вы играли с сильно квантованными моделями, вы знаете компромисс. Они быстрые и дешевые, но 2 бита больно, а этот сильно галлюцинирует. Уверенно неправильные даты, выдуманные люди, цифры, возникшие из ниоткуда. Именно такие вещи выглядят совершенно бегло и просто фальшиво. Поэтому я подключил его к SIMURG Monolith и начал использовать как обычный пользователь. Что на самом деле произошло Вот самое интересное. Я ничего не переучивал в оффлайне. Я просто задавал вопросы, и когда модель что-то придумывала, я жал «не нравится», а когда было правильно, ставил «лайк». SIMURG обучается в режиме реального времени. Цикл обслуживания — это цикл обучения, поэтому каждый палец вверх или вниз — это один шаг обучения. После довольно короткого сеанса охранник уже отмечал измышления, которые модель продолжала производить, и воздерживался, вместо того, чтобы пропускать их. Это не было волшебством, и я не собираюсь утверждать на 100 процентов. Но наблюдать, как двухбитная модель переходит от свободных галлюцинаций к почти молчанию о плохих ответах, вживую, не имея ничего, кроме моей собственной обратной связи, было