Оригинальная модель: https://huggingface.co/Doctor-Shotgun/Nous-Capybara-limarpv3-34B 5bpw — Может запускать контекст 10K в VRAM ~ 23,3 ГБ с опцией 8-битного кэша.
Модальности:
Генерация текста
Задача: Генерация текста
Автор: sandwichdoge
Теги: llama, text-generation-inference, endpoints_compatible
Лайков: 3 | Загрузок: 15
Описание основано на материалах HuggingFace. Перевод выполнен автоматически.
Модель большого языка DictaLM-2.0-Instruct (LLM) представляет собой усовершенствованную версию генеративной модели DictaLM-2.0 с использованием различных наборов данных разговоров....
Эта модель представляет собой доработанную версию google/gemma-2b на наборе данных samvaad-hi-v1. Во время обучения использовались следующие гиперпараметры: —...
Create your own bot based on your favorite user with the demo! To understand how the model was...
Чат Предусмотрено несколько перестановок параметров GPTQ; см. Предоставленные файлы ниже для получения подробной информации о предоставляемых опциях, их...
