Модель генерации текста
Модальности:
Генерация текста
Области применения:
Диалог / чат Следование инструкциям
Задача: Генерация текста
Автор: TheClusterDev
Теги: qwen3_next, fp8, conversational, compressed-tensors
Лайков: 4 | Загрузок: 18
Описание основано на материалах HuggingFace. Перевод выполнен автоматически.
Исходная модель: https://huggingface.co/Sao10K/MN-12B-Lyra-v4 Некоторые из этих квантов (Q3KXL, Q4KL и т. д.) являются стандартным методом квантования, в котором...
MoLM — это набор языковых моделей на основе MoE, масштаб которых варьируется от 4 до 8 миллиардов параметров....
— llama.cpp — ramalama — LM Studio — koboldcpp — Jan AI — Веб-интерфейс генерации текста — LoLLMs...
Светлячок — https://github.com/yangjianxin1/Firefly — LLaMA-Factory — https://github.com/hiyouga/LLaMA-Factory.git класс TransformerBlock(nn.Module): def init(self, dmodel, nheads, dropout=0.1): super(TransformerBlock, self).init() self.selfattn =...
