Это предпочтение модели рассуждения 32B, оптимизированное на основе Sky-T1-32B-Preview, чтобы значительно сократить длину генерации при сохранении точности. Производительность находится на одном уровне с моделью o1-preview как в математических расчетах, так и в кодировании, при этом длина генерации сокращается до 57% по сравнению с Sky-T1-32B-Preview. Более подробную информацию можно найти в нашем блоге. — Разработано: командой NovaSky из Sky Computing Lab в Калифорнийском университете в Беркли. 10 тысяч пар предпочтений в области математики и кодирования, созданные Sky-T1-32B-Preview. Мы выполняем простую оптимизацию политики (SimPO) с размером пакета 96, скоростью обучения 5e-7, гаммой 0,3 и бета 2,0. Для обучения мы используем Llama-Factory. На 8xH100 обучение SimPO занимает ~2,5 часа с разгрузкой DeepSpeed Zero-3. Мы хотели бы поблагодарить вычислительные ресурсы Lambda Lab и AnyScale. Пожалуйста, рассмотрите возможность цитирования нашего сообщения в блоге, если вы нашли его полезным для вашего исследования. Спасибо! bibtex @misc{reduceoverthinking_2025, автор = {NovaSky Team}, title = {Думайте меньше, добивайтесь большего: сократите затраты на рассуждения на 50 %, не жертвуя точностью}, Howpublished = {https://novasky-ai.github.io/posts/reduce-overthinking}, note = {Доступ: 23 января 2025 г.}, год =…
Модальности:
Генерация текста
Области применения:
Диалог / чат
Задача: Генерация текста
Автор: NovaSky-AI
Теги: qwen2, conversational, en, text-generation-inference, endpoints_compatible
Лайков: 67 | Загрузок: 14
Описание основано на материалах HuggingFace. Перевод выполнен автоматически.
