Если вы используете text-generator-webui Select Transformers — Compute d-type: bfloat16 — Quantization Type : nf4 — Load in 4-bit: True — Use double quantization: True
Модальности:
Генерация текста
Области применения:
Диалог / чат
Задача: Генерация текста
Автор: jwnder
Теги: jais, custom_code, 4-bit, bitsandbytes
Лайков: 3 | Загрузок: 29
Описание основано на материалах HuggingFace. Перевод выполнен автоматически.
> [!ВАЖНО] > Этот репозиторий представляет собой созданную сообществом квантованную версию исходной модели мета-лама/Meta-Llama-3.1-405B-Instruct, которая представляет собой официальную...
Наша модель Swallow-MS-7b-v0.1 проходила постоянное предварительное обучение на Mistral-7B-v0.1, в основном с добавлением данных на японском языке. Мы...
DPO Trainer with dataset jondurbin/truthy-dpo-v0.1 to improve [TomGrc/FusionNet7Bx2MoE14B] Модальности:Генерация текста Задача: Генерация текста Автор: LoneStriker Теги: mixtral, moe,...
Чат и поддержка: сервер Discord TheBloke Хотите внести свой вклад? Страница TheBloke на Patreon Работа TheBloke в области...
