Вы запускаете на своем iPhone такую модель, как Gemma 4, и ответ приходит по одному слову. Вы хотите получить тот же ответ раньше, не опускаясь до модели меньшего размера и не изучая, что такое черновая модель. Off Grid AI Mobile (OGAM) поддерживает MTP,...
Вы запускаете на своем iPhone такую модель, как Gemma 4, и ответ приходит по одному слову. Вы хотите получить тот же ответ раньше, не опускаясь до модели меньшего размера и не изучая, что такое черновая модель. Off Grid AI Mobile (OGAM) поддерживает MTP, прогнозирование нескольких токенов. Созданная для него модель угадывает несколько слов вперед, проверяет их за один проход и сохраняет те, которые в любом случае написала бы. Вы включаете его одним переключателем, и приложение получает дополнительный файл, необходимый модели.
Что вам нужно
iPhone с достаточным объемом памяти для данной модели. Gemma 4 E4B, самая маленькая каталожная модель с опубликованной головкой MTP, в качестве минимума указывает 6 ГБ ОЗУ. Gemma 4 12B указывает 12 ГБ.
Выключите Grid AI 0.0.116 или новее из App Store. В версии 0.0.116 добавлена автоматическая загрузка головки MTP за коммутатором. Сборка App Store от 28 октября 2026 г. — 0.0.117. Загрузите Off Grid AI на iPhone.
Модель чата GGUF. MTP — это функция llama.cpp, а на iPhone приложение запускает модели чата GGUF через llama.cpp.
Нет счета и нет оплаты. MTP является частью бесплатного приложения.
Как MTP ускоряет ответы
Обычная модель записывает один токен за проход через свои веса. Модель со слоями MTP одновременно создает несколько токенов, а затем проверяет их все.