Неофициальный деквантованный вес Грока-1 в формате HF Transformers. Веса (fp32) преобразуются с помощью сценария, запущенного в репозитории grok-1. Поскольку загрузка деквантованного веса требует в два раза больше времени, рекомендуется загрузить исходный вес и выполнить конвертацию самостоятельно. (Я запускал loadin8bit с использованием lm-evaluation-harness из-за ограниченного аппаратного обеспечения, поэтому результат будет немного хуже) MMLU 5-кадр: 0,7166 BBH 3-кадр: 0,5204
Модальности:
Генерация текста
Задача: Генерация текста
Автор: keyfan
Теги: grok, custom_code
Лайков: 41 | Загрузок: 175
Описание основано на материалах HuggingFace. Перевод выполнен автоматически.
