iMatrix GGUFs for https://huggingface.co/MarsupialAI/Monstral-123B-v2
Модальности:
Генерация текста
Области применения:
Диалог / чат
Задача: Генерация текста
Автор: MarsupialAI
Теги: gguf, chat, en, endpoints_compatible
Лайков: 3 | Загрузок: 209
Описание основано на материалах HuggingFace. Перевод выполнен автоматически.
Чат и поддержка: сервер Discord TheBloke Хотите внести свой вклад? Страница TheBloke на Patreon Работа TheBloke в области...
Эта модель квантуется до 4-бит с размером группы 128. По сравнению с более ранними квантованными версиями, новая квантованная...
— Создатель модели: MaziyarPanahi — Исходная модель: MaziyarPanahi/Llama-3-8B-Instruct-DPO-v0.3 MaziyarPanahi/Llama-3-8B-Instruct-DPO-v0.3-GGUF содержит файлы модели формата GGUF для MaziyarPanahi/Llama-3-8B-Instruct-DPO-v0.3. GGUF —...
Чат и поддержка: сервер Discord TheBloke Хотите внести свой вклад? Страница TheBloke на Patreon Работа TheBloke в области...
