4-разрядная квантование https://huggingface.co/openchat/openchat
Модальности:
Генерация текста
Области применения:
Диалог / чат
Задача: Генерация текста
Автор: Honkware
Теги: llama, en, endpoints_compatible
Лайков: 3 | Загрузок: 14
Описание основано на материалах HuggingFace. Перевод выполнен автоматически.
Это 8-битная версия GPTQ (не путать с 8-битной RTN) версии Vicuna 13B v1.1 HF. Вопрос. Почему квантование производится...
Запускайте их напрямую с помощью llama.cpp или любого другого проекта на основе llama.cpp. Некоторые из этих квантов (Q3KXL,...
— Разработчик: kingabzpro — Лицензия: apache-2.0 — Точная настройка на основе модели: unsloth/deepseek-r1-distill-llama-8b-unsloth-bnb-4bit Модальности:Генерация текста Области применения:Диалог /...
Мы представляем EXAONE Deep, который демонстрирует превосходные возможности в различных задачах рассуждения, включая тесты по математике и программированию,...
