Модель генерации текста
Модальности:
Генерация текста
Области применения:
Диалог / чат
Задача: Генерация текста
Автор: hjhj3168
Теги: llama, conversational, text-generation-inference, endpoints_compatible, 6-bit, exl2
Лайков: 91 | Загрузок: 20
Описание основано на материалах HuggingFace. Перевод выполнен автоматически.
Это модель 1.8B, обученная на синтетическом наборе данных Cosmopedia. Обучающий корпус состоял из 30 миллиардов токенов, 25 миллиардов...
ПРИМЕЧАНИЕ. ikllama.cpp` также может запускать существующие GGUF от bartowski, unsloth, mradermacher и т. д., если вы хотите опробовать...
!image/jpeg Тонкая настройка OLMoE от AllenAI, предназначенная для ролевых игр (и, возможно, для общих случаев использования, если вы...
Исходная модель: https://huggingface.co/Qwen/Qwen2.5-14B-Instruct-1M Некоторые из этих квантов (Q3KXL, Q4KL и т. д.) представляют собой стандартный метод квантования, в котором...
