Qwen2.5-32B-Instruct-CFT — это модель с 32B параметрами, настроенная с использованием нашего нового подхода Critique Fine-Tuning (CFT). Этот вариант, созданный на основе базовой модели Qwen2.5-32B-Instruct, обучен критике и анализу ответов, а не простому их имитированию, что приводит к расширению возможностей рассуждения. — Построено на мощной основе Qwen2.5-32B-Instruct — Обучение с использованием методологии Critique Fine-Tuning (CFT) — Высокоэффективное обучение с минимальными требованиями к данным — Унаследует сильные возможности следования инструкциям базовой модели — Набор данных: WebInstruct-CFT-4K — Формат обучения: (вход = [запрос; шумный ответ], выход = критика) — Модель учителя: GPT-4o для генерации критических замечаний — Структура: LLaMA-Factory — Аппаратное обеспечение: 8 графических процессоров NVIDIA H100 — Время обучения: ~1,5 часа с DeepSpeed Zero-3. Для получения более подробной информации об архитектуре модели, методологии и результатах комплексной оценки посетите веб-страницу нашего проекта.
Модальности:
Генерация текста
Области применения:
Математика Логика и рассуждение Диалог / чат Следование инструкциям
Задача: Генерация текста
Автор: TIGER-Lab
Теги: qwen2, cft, math, reasoning, conversational, en, text-generation-inference, endpoints_compatible
Лайков: 6 | Загрузок: 9
Описание основано на материалах HuggingFace. Перевод выполнен автоматически.
