mlx-community/VibeThinker-1.5B-mlx-4bit

Это 4-битная квантованная версия модели VibeThinker-1.5B, оптимизированная для Apple Silicon с использованием платформы MLX. — Исходная модель: WeiboAI/VibeThinker-1.5B — Квантование: 4-битное — Платформа: MLX Чтобы использовать эту модель, вам необходимо установить пакеты mlx и mlx-lm: 🚨 Мы рекомендуем использовать эту модель для решения математических задач соревновательного типа и алгоритмического кодирования. Лучше задать вопрос на английском языке. Мы не советуем использовать его для других задач, так как это экспериментальная версия, направленная на изучение возможностей рассуждения небольших моделей. 📁 Github&nbsp&nbsp | &nbsp&nbsp🤖 Область применения модели | &nbsp&nbsp📄 Технический отчет VibeThinker-1.5B — это языковая модель с плотностью 1,5 миллиарда параметров. При общей стоимости обучения всего 7800 долларов США он обеспечивает производительность рассуждений, сравнимую с более крупными моделями, такими как GPT OSS-20B Medium. 💡 Математическое рассуждение: по трем основным математическим тестам AIME24, AIME25 и HMMT25 его оценки (80,3, 74,4 и 50,4 соответственно) превосходят показатели исходной модели DeepSeek R1, параметры которой более чем в 400 раз превышают параметры (оценки 79,8, 70,0 и 41,7 соответственно). 🌱 Генерация кода: он получил оценку 55,9 в LiveCodeBench v5 и 51,1 в v6. Его оценка v6…

Модальности:
Генерация текста

Области применения:
Генерация кода Математика Диалог / чат

Задача: Генерация текста
Автор: mlx-community
Теги: mlx, qwen2, math, code, gpqa, conversational, en, 4-bit
Лайков: 24  |  Загрузок: 230

Открыть на HuggingFace →

Описание основано на материалах HuggingFace. Перевод выполнен автоматически.