guardrail/llama-2-7b-guanaco-8bit-sharded - Каталог нейросетей
Генерация текста

guardrail/llama-2-7b-guanaco-8bit-sharded

Добавлено:
guardrail/llama-2-7b-guanaco-8bit-sharded

Модель, настроенная с точностью до 4 бит с использованием QLoRA на timdettmers/openassistant-guanaco и сегментированная для использования в бесплатном экземпляре Google Colab. Его можно легко импортировать с помощью класса AutoModelForCausalLM из трансформеров:

Модальности:
Генерация текста

Задача: Генерация текста
Автор: guardrail
Теги: llama, text-generation-inference, endpoints_compatible, 8-bit
Лайков: 4  |  Загрузок: 10

Открыть на HuggingFace →

Описание основано на материалах HuggingFace. Перевод выполнен автоматически.

Теги: #8-bit #endpoints_compatible #llama #text-generation-inference

Похожие модели (Генерация текста)

Генерация текста

hugging-quants/Llama-3.2-3B-Instruct-Q4_K_M-GGUF

Эта модель была преобразована в формат GGUF из мета-ламы/Llama-3.2-3B-Instruct с использованием llama.cpp через пространство GGUF-my-repo ggml.ai. Более подробную...

23.9k
HF Подробнее
Генерация текста

unsloth/Qwen2.5-14B-Instruct

У нас есть бесплатный ноутбук Google Colab Tesla T4 Qwen 2.5 (все размеры модели). Также разговорный ноутбук Qwen...

11.6k
HF Подробнее
Генерация текста

kainatq/RP-king-12b

RP-king-12b представляет собой объединение следующих моделей с помощью мергеркита: MarinaraSpaghetti/NemoMix-Unleashed-12B inflatebot/MN-12B-Mag-Mell-R1 elinas/Chronos-Gold-12B-1.0 Retreatcost/KansenSakura-Eclipse-RP-12b * redrix/patriicide-12B-Unslop-Mell-v2 в sillytavern вы...

31
HF Подробнее