I used Google Colab to quantize/nest the Llama 2 7B model. Should help out those who wish to use Llama 2 7B on a low-end computer. GPU is still recomended…
Модальности:
Генерация текста
Задача: Генерация текста
Автор: TransformerTales
Теги: llama, text-generation-inference, endpoints_compatible, 8-bit
Лайков: 2 | Загрузок: 5
Описание основано на материалах HuggingFace. Перевод выполнен автоматически.
-进一步扩充了训练数据,其中LLaMA扩充至120G文本（通用领域），Альпака扩充至4M指令数据（重点增加了STEM相关数据) — Альпака 训练时采用了更大的ранг, 相比原版具有更低的验证集损失 — Производитель: Alpaca-Plus-7B, модель Alpaca-7B, модель Alpaca-Plus-7B, модель Alpaca-Plus-7B, модель 13B -这一轮比拼:7B获得65,3分, 13B获得70,9分,Plus-7B效果75,3分,具体评测结果请参考效果评测Модель...
Эта модель представляет собой доработанную версию мета-ламы/Мета-ламы-3-8B-Instruct. Идея этой модели заключается в обучении на наборе данных, полученном из...
Эта модель представляет собой доработанную версию мощного Qwen/Qwen2-72B-Instruct, еще больше расширяющую границы понимания и генерации естественного языка. Моей...
> [!NOTE] > Включает исправления шаблона чата Unsloth! Для llama.cpp используйте —jinja > Unsloth Dynamic 2.0 обеспечивает превосходную...
