У всех, кто гоняет GLM-5.3 Prime в проде на ризонинге Max, есть это ощущение: вроде думает, а вроде и недодумывает. Задача у меня стояла зверская — изобрести уровень усилия «Max Extra» чисто промптингом: минимальная вставка в системный пром...
У всех, кто гоняет GLM-5.3 Prime в проде на ризонинге Max, есть это ощущение: вроде думает, а вроде и недодумывает. Задача у меня стояла зверская — изобрести уровень усилия «Max Extra» чисто промптингом: минимальная вставка в системный промпт, приближенная к обучающим данным, без овер-тхинкинга. И буквально вручную подобрать каждый токен.
Зачем? Я заметил что на Max ризонинге нейронка на «Привет» думает по минуте, а для миграции всего проекта на другой стэк - максимум секунд 15 (*личное ощущение).
Я построил свой бенчмарк: 342 грязных промпта как у живых юзеров (опечатки, «пжпж», «хз», «ну короче»), поровну EN и RU, LLM-грейдер, парные sign-тесты и ~50 тысяч запросов к провайдеру за вечер.
Спойлер: гипотеза «нейронке не хватает глубины мышления» умерла в первой же фазе. А вот что я нашёл вместо неё — интереснее.