Квантование AWQ: выполнено stelterlab в INT4 GEMM с AutoAWQ от casper-hansen (https://github.com/casper-hansen/AutoAWQ/). Исходные веса от DeepSeek AI. Ниже приводится карточка исходной модели: Модель DeepSeek R1 претерпела незначительное обновление версии, текущая версия — DeepSeek-R1-0528. В последнем обновлении DeepSeek R1 значительно улучшила глубину рассуждений и умозаключений за счет увеличения вычислительных ресурсов и внедрения механизмов алгоритмической оптимизации во время постобучения. Модель продемонстрировала выдающуюся производительность в различных тестах, включая математику, программирование и общую логику. Его общая производительность теперь приближается к показателям ведущих моделей, таких как O3 и Gemini 2.5 Pro. По сравнению с предыдущей версией обновленная модель демонстрирует значительные улучшения в решении сложных логических задач. Например, в тесте AIME 2025 точность модели выросла с 70% в предыдущей версии до 87,5% в текущей. Это улучшение связано с увеличением глубины мышления в процессе рассуждения: в тестовом наборе AIME предыдущая модель использовала в среднем 12 000 токенов на вопрос,…
Модальности:
Генерация текста
Области применения:
Диалог / чат Логика и рассуждение
Задача: Генерация текста
Автор: stelterlab
Теги: qwen3, conversational, text-generation-inference, endpoints_compatible, 4-bit, awq
Лайков: 7 | Загрузок: 315
Описание основано на материалах HuggingFace. Перевод выполнен автоматически.
