> Исследование CyberNeurova — cyberneurova.ai > Релиз: v2 (3-направленная многоповоротная абляция, корпус захвата с подсказкой 1338) Окончательно удаленная версия deepseek-ai/DeepSeek-V4-Flash (284 B FP8 MoE), упакованная как GGUF для llama.cpp. Удаление запрограммировано в весах во время преобразования — никаких перехватов во время выполнения, никакого замедления, никакой зависимости от платформы вывода, поддерживающей пользовательские пути кода. > Статус: экспериментальный исследовательский артефакт. Построен с использованием форка Antirez llama.cpp DeepSeek-V4-Flash, который сам по себе является экспериментальным. Используйте по своему усмотрению. В этом форке также размещаются повторно квантованные GGUF, созданные из выпуска CyberNeurova Q8_0 для тестирования DS4/pi-ds4. Мотивация: предоставить формы q2-imatrix и q4-imatrix в стиле antirez, которые стандартный загрузчик ds4 может загружать напрямую, включая встраивание токена F16, чтобы загрузчику не требовался обходной путь support-q80-token-embd`. Сборка, согласованная с q2-imatrix, сочетает в себе удаленные веса CyberNeurova с иматрикой Chat-v2 Routed-MoE DS4 jedisct1/DeepSeek-V4-Flash-imatrix-aligned. Он был сгенерирован из cyberneurova-DeepSeek-V4-Flash-abliterated-Q80.gguf, содержит общий.alignment = 4096 и был протестирован с помощью ds4` на Metal. Простой…
Модальности:
Генерация текста
Задача: Генерация текста
Автор: audreyt
Теги: gguf, abliterated, uncensored, deepseek, llama.cpp, moe, research, en
Лайков: 8 | Загрузок: 13,107
Описание основано на материалах HuggingFace. Перевод выполнен автоматически.
