Это версия модели Mixtral-8x7B-v0.1 (https://huggingface.co/mistralai/Mixtral-8x7B-v0.1), квантованная до 2-бит с помощью полуквадратического квантования (HQQ).
Модальности:
Генерация текста
Задача: Генерация текста
Автор: mobiuslabsgmbh
Теги: mixtral, moe
Лайков: 4 | Загрузок: 15
Описание основано на материалах HuggingFace. Перевод выполнен автоматически.
В отличие от типичных LLM, которые обучены играть роль «помощника» в разговоре, мы обучили UserLM-8b имитировать роль «пользователя»...
Модель генерации текста Модальности:Генерация текста Задача: Генерация текста Автор: Dogge Теги: llama, text-generation-inference, endpoints_compatibleЛайков: 31 | Загрузок: 4...
Представляем GigaChat3-10B-A1.8B-base — базовую (предварительную) модель стандартной GigaChat. Модель на основе архитектуры Mixture-of-Experts (MoE) с 10B базами и...
Чат и поддержка: сервер Discord TheBloke Хотите внести свой вклад? Страница TheBloke на Patreon Работа TheBloke в области...
