Эта версия Komodo представляет собой доработанную модель Llama-3.2-3B-Instruct для набора данных jeggers/competition_math для повышения математической производительности базовой модели. Эта модель имеет 4-битное квантование. Вам следует импортировать его в 8-битном формате, если вы хотите использовать параметры 3B! Перед импортом убедитесь, что вы установили библиотеку bitsandbytes.
Модальности:
Генерация текста
Области применения:
Генерация кода Математика Диалог / чат
Задача: Генерация текста
Автор: suayptalha
Теги: llama, text-generation-inference, unsloth, trl, sft, math, code, conversational
Лайков: 5 | Загрузок: 5
Описание основано на материалах HuggingFace. Перевод выполнен автоматически.
