Optimized GGUF quantization files for enhanced model performance
Модальности:
Генерация текста
Области применения:
Диалог / чат
Задача: Генерация текста
Автор: featherless-ai-quants
Теги: gguf, endpoints_compatible, conversational
Лайков: 3 | Загрузок: 905
Описание основано на материалах HuggingFace. Перевод выполнен автоматически.
Это версия модели LLama-2-70B-chat-hf, квантованная до 2-бит с помощью полуквадратического квантования (HQQ): https://mobiusml.github.io/hqq_blog/ Результат: Создание автомобиля — это...
DPO’d из vicgalle/franken-SOLAR-18B-v1.0, SOLAR-подобная модель, масштабированная до 18B. Это модель франкенмерджа, созданная с использованием mergekit, чередующихся слоев Nous-Hermes-2-SOLAR-10.7B...
— Архитектура модели: Phi-3 — Входные данные: текст — Выходные данные: текст — Оптимизация модели: — Весовое квантование:...
Sidrap-7B-v1 — это модель большого языка (LLM), обученная и настроенная на общедоступном наборе данных Bahasa Indonesia. Он предназначен...
