omost-llama-3-8b-4bits — это модель lama-3 от Omost с длиной контекста 8 тыс. в nf4.
Модальности:
Генерация текста
Области применения:
Диалог / чат
Задача: Генерация текста
Автор: lllyasviel
Теги: llama, trl, sft, conversational, text-generation-inference, 4-bit, bitsandbytes
Лайков: 25 | Загрузок: 310
Описание основано на материалах HuggingFace. Перевод выполнен автоматически.
1. Обучение JetMoE-8B обходится менее чем в 0,1 миллиона долларов1, но превосходит по производительности LLaMA2-7B от Meta AI,...
Где-то между версиями 3.05 и 3.075 по общему интеллекту и возможностям RP. Доступные количества доступны здесь. Спасибо Lewdiculus:...
Сачин Мехта, Мохаммад Хоссейн Сехават, Цинцин Цао, Максвелл Хортон, Янци Цзинь, Ченфан Сун, Иман Мирзаде, Махьяр Наджиби, Дмитрий...
Исходная модель: https://huggingface.co/xxx777xxxASD/L3.1-ClaudeMaid-4x8B, созданная с помощью https://huggingface.co/FantasiaFoundry/GGUF-Quantization-Script. Модели Q2KL, Q4KL, Q5KL, Q6KL используют выходные тензоры Q_8 и встраивание...
