Модель генерации текста
Модальности:
Генерация текста
Области применения:
Диалог / чат Следование инструкциям
Задача: Генерация текста
Автор: Granther
Теги: gemma2, gptq, conversational, text-generation-inference, 4-bit
Лайков: 3 | Загрузок: 25
Описание основано на материалах HuggingFace. Перевод выполнен автоматически.
Мои собственные (ZeroWw) квантования. вывести и внедрить тензоры, квантованные до f16. все остальные тензоры квантованы до q5k или...
Llama-3.3-Nemotron-Super-49B-v1.5 представляет собой значительно обновленную версию Llama-3.3-Nemotron-Super-49B-v1 и представляет собой модель большого языка (LLM), которая является производной от...
— 8x A6000 — Раздвоенная версия unsloth для эффективного обучения — Длина последовательности: 4096 — Эффективный размер пакета:...
— Quantization: oQ3 (sensitivity-driven mixed precision, groupsize=64) — Format: MLX safetensors — Compatible with:** mlx-lm, mlx-vlm, oMLX on...
