Зеркала: Обнимающее лицо | ModelScope (полная квантовая лестница всегда доступна на ModelScope) Ornith-1.0-35B от DeepReinforce (35B MoE, 3B активный, семейство Qwen3.5) с масштабированием YaRN RoPE, встроенным в метаданные GGUF для контекстного окна с 1 048 576 токенами, сертифицированным по всему диапазону, теперь поставляется спекулятивное декодирование MTP и башня видения. Вес побитово идентичен исходным сборкам; различаются только метаданные веревки, поэтому llama.cpp и Ollama применяют расширение без дополнительных флагов. Доказательства статуса возможностей в этом репозитории. 1M контекст. Сертифицировано50/50 игл через 1M, f16 KV (тепловая карта + results.jsonl). Спекулятивное декодирование MTP. Две проверенные сборки Q6_K: от 267,9 до 382,9 ток/с (+43%). APEX-Compact: +14%, идеальное расстояние от 70/70 до 1M (524K на 5090, 786K/1M на M3 Max). Башня VisionVerifiedmmproj считывает текст изображения и правильно идентифицирует объекты. Этот репозиторий Hugging Face намеренно содержит только сборки MTP. Полная 10-квантовая лестница (от IQ2_M до bf16, каждый квант проверен иглой) находится на зеркале ModelScope. Ничто не было прекращено: каждый квант находится на расстоянии одного клика. Hugging Face предлагает тщательно подобранные подборки, ModelScope всегда предлагает все, а Ollama предлагает готовые к использованию теги. На Олламе…
Модальности:
Генерация текста Компьютерное зрение
Задача: Генерация текста
Автор: satgeze
Теги: gguf, long-context, yarn, ornith, mtp, speculative-decoding, vision, llama.cpp
Лайков: 6 | Загрузок: 22,863
Описание основано на материалах HuggingFace. Перевод выполнен автоматически.
