Некоторое время назад мы рассмотрели DFlash — метод прогнозирования черновых токенов, использующий модель диффузии. В свое время мы тестировали его на Gemma-4-12b-it-QAT, и родная модель Assistant вышла вперед — DFlash не смог показать явного преимущества. ...
Некоторое время назад мы рассмотрели DFlash — метод прогнозирования черновых токенов, использующий модель диффузии. В свое время мы тестировали его на Gemma-4-12b-it-QAT, и родная модель Assistant вышла вперед — DFlash не смог показать явного преимущества.
Однако недавно появился преемник под названием «DFlash-2» с рядом улучшений по сравнению с исходной конструкцией.
По состоянию на август 2026 года его поддерживают лишь несколько моделей. Используя поочередно только базовую модель, DFlash и DFlash-2, мы рассмотрели, в чем на самом деле окупается каждая из них и какие настройки параметров дают максимальную отдачу от нее.
Что такое DFlash-2?
DFlash — это метод, который заранее прогнозирует предстоящие выходные токены для ускорения генерации, созданный Z-Lab. Для разных семейств LLM было выпущено несколько моделей DFlash.
[Входной токен (N)] --> [Основная модель] -- h_on ----------------------------------------> [Прогнозировано: N+1]
| ^
в |
[KVCache] |
| |
+----------------------+--------------------------------+ |
| DFlash Drafter v (вставка данных KV) | |
| [KVCache] | |
| | | |
| [Модель диффузии] | |
| | | |
| [Декодер токенов] | |
| | | |
| +---------v--------+ | |
| | Предсказанный N+2 | | |
| | + | | |
| | Предсказанный N+3 | | |