> ⚠️ Ранний доступ — для запуска требуется bati.cpp. DeepSeek V4-Flash был выпущен > 24 апреля 2026 г. и еще не поддерживается мастером ggml-org/llama.cpp. Этот GGUF был преобразован с помощью batiai/bati.cpp — собственной библиотеки вывода BatiAI — и для вывода также требуется та же самая библиотека. Ollama еще не совместима (будет автоматически обновлена, как только в основной ветке появится поддержка V4). V4-Flash — это модель передового класса (284B-A13B, верхний уровень на SWE-Bench Pro). Основная поддержка, вероятно, займет еще 1-2 недели. Мы предоставляем этот промежуточный выпуск, чтобы опытные пользователи могли сразу оценить модель. Когда основная линия объединит поддержку, этот репозиторий получит откалиброванный по imatrix IQ3XXS / IQ4XS / Q5KM плюс толчок Ollama. Все кванты подписаны BatiAI (general.author=BatiAI,general.url=https://flow.bati.ai). > Примечание. IQ-кванты (IQ3XXS/IQ4XS) отслеживаются в bati.cpp v0.2.0. Они требуют> калибровки imatrix, и llama-imatrix в настоящее время дает сбой во время модели V4-Flash> инициализации контекста в разветвлении. Будет добавлен, как только этот путь будет исправлен (или как только mainline > llama.cpp объединит поддержку V4). Вышеупомянутые K-кванты используют патч целочисленного тензора> сквозного доступа bati.cpp v0.1.2. — Источник: deepseek-ai/DeepSeek-V4-Flash — Архитектура: всего 284 байт / 13 байт активных…
Модальности:
Генерация текста
Задача: Генерация текста
Автор: batiai
Теги: bati.cpp, gguf, deepseek, quantized, batiai, 284b, moe, frontier
Лайков: 9 | Загрузок: 5,132
Описание основано на материалах HuggingFace. Перевод выполнен автоматически.
