на основе (https://github.com/ggml-org/llama.cpp/pull/24423) Большое спасибо unsloth
Модальности:
Генерация текста
Области применения:
Диалог / чат
Задача: Генерация текста
Автор: DevQuasar
Теги: gguf, endpoints_compatible, conversational
Лайков: 7 | Загрузок: 9,504
Описание основано на материалах HuggingFace. Перевод выполнен автоматически.
— Квантование Mistral-7B-Instruct-v0.3 только по весу через GPTQ до 4 бит с group_size=128 — GPTQ оптимизирован для восстановления...
Solar-Ko представляет собой усовершенствованную версию модели upstage/SOLAR-10.7B-v1.0, отличающуюся расширенным словарным запасом и включением корейского корпуса для расширенной предварительной...
Авторы: Ашвини Кумар Джиндал, Паван Кумар Раджпут, Анкур Парих, Акшита Сухлеча 🤗 Блог об анонсе Hugging Face: https://huggingface.co/blog/akjindal53244/llama31-storm8b...
Рецепт основан на ножаюму/Cydonia-v1.2-Magnum-v4-22B, поскольку модель Doctor-Shotgun/MS3.2-24B-Magnum-Diamond все еще слишком возбуждена и многословна. Приведенный выше PNG-файл включает рабочий...
