Продвинутые, высококачественные и легкие рассуждения для крошечного размера, который вы можете запустить на своем телефоне. При исходном качестве он работает со скоростью ~400 токенов в секунду на одном графическом процессоре H100 Nvidia от Friendli. Обученные аналогично Deepseek R1, мы использовали Smollm2 в качестве базовой модели, а затем у нас есть SFT, точно настроенный на рассуждения с использованием нашего собственного набора данных, который включает в себя сочетание кода, генерации веб-сайтов, повседневных чатов, математики и задач подсчета. А затем мы немного модифицировали токенизатор, после тонкой настройки SFT мы использовали Grpo (arXiv:2402.03300) для дальнейшего усиления его математики никакие выходные данные ИИ не отражают взгляды Pinkstack или любой другой третьей стороны, он может создавать предвзятую, некорректную и вредоносную информацию, если вы не настроите ее должным образом. Для коммерческого использования рекомендуется использовать другой ИИ, такой как llamaguard, для фильтрации или в системной подсказке, чтобы убедиться, что он будет безвредным. Это очень…
Модальности:
Генерация текста
Области применения:
Логика и рассуждение Диалог / чат
Задача: Генерация текста
Автор: Pinkstack
Теги: llama, trl, grpo, rl, superthoughts, reasoning, cot, conversational
Лайков: 3 | Загрузок: 42
Описание основано на материалах HuggingFace. Перевод выполнен автоматически.
