Дистилляция DeepSeek-R1 до Qwen 32B, квантованная с помощью AWQ до wint4. Он подходит для любого графического процессора с 24 ГБ видеопамяти или устройства с 32 ГБ URAM! Набор данных MMLU-PRO оценивает испытуемых по 14 различным полям с использованием измерения точности за 5 снимков. Каждая задача оценивает модели в соответствии с методологией исходной реализации MMLU, каждая из которых имеет десять возможных вариантов.
Модальности:
Генерация текста
Области применения:
Генерация кода Диалог / чат Логика и рассуждение
Задача: Генерация текста
Автор: inarikami
Теги: qwen2, code, deepseek_v3, qwen, int4, conversational, 4-bit, awq
Лайков: 12 | Загрузок: 363
Описание основано на материалах HuggingFace. Перевод выполнен автоматически.
