Эта квантованная модель была создана с использованием AutoAWQ версии 0.2.8 с quantconfig`: курировали и обучали Эрик Хартфорд, Бен Гиттер, BlouseJury и Cognitive Computations. Мы выражаем признательность щедрым спонсорам Dolphin 3.0: — Dria https://x.com/driaforall — Спонсор вывода — Chutes https://x.com/rayon_labs — Спонсор вычислений — Crusoe Cloud — Спонсор вычислений — Андреессен Горовиц — предоставил грант, на который первоначально был запущен Dolphin Dolphin 3.0 R1 — это следующее поколение моделей Dolphin, настраиваемых по инструкции. Создана как идеальная локальная модель общего назначения, позволяющая программировать, выполнять математические операции, агентировать, вызывать функции и использовать в общих случаях. Версия R1 обучалась в течение 3 эпох рассуждению с использованием 800 тыс. следов рассуждения из набора данных Dolphin-R1. Dolphin стремится стать моделью обучения рассуждению общего назначения, аналогичной моделям, лежащим в основе ChatGPT, Claude, Gemini. Но эти модели создают проблемы для компаний, стремящихся включить ИИ в свои продукты. 1) Они сохраняют контроль над системными подсказками, устаревают и изменяют вещи по своему усмотрению, что часто приводит к сбоям в работе программного обеспечения. 2) Они контролируют версии моделей, иногда молча что-то меняя, или…
Модальности:
Генерация текста
Области применения:
Диалог / чат
Задача: Генерация текста
Автор: Valdemardi
Теги: mistral, conversational, en, text-generation-inference, endpoints_compatible, 4-bit, awq
Лайков: 5 | Загрузок: 80
Описание основано на материалах HuggingFace. Перевод выполнен автоматически.
