Модель генерации текста
Модальности:
Генерация текста
Области применения:
Диалог / чат
Задача: Генерация текста
Автор: Amu
Теги: llama, conversational, en, text-generation-inference, endpoints_compatible
Лайков: 7 | Загрузок: 4
Описание основано на материалах HuggingFace. Перевод выполнен автоматически.
Оказывается, вы можете разделить отдельные слои MLP плотной языковой модели на равные группы экспертов. Что я здесь сделал:...
Исходная модель: https://huggingface.co/rombodawg/Rombos-LLM-V2.5-Qwen-7b Некоторые из этих квантов (Q3KXL, Q4KL и т. д.) представляют собой стандартный метод квантования, в...
— Обратите внимание, что эта модель не обучалась на наборе данных rombodawg/LosslessMegaCodeTrainingV3_MINI, несмотря на сходство названий. Данные обучения...
Доработанная версия Qwen3.6-35B-A3B, оптимизированная для генерации и понимания кода Rust. Базовая модель представляет собой архитектуру Mixture-of-Experts с общим...
