Основанная на LFM2-350M, LFM2-350M-Math представляет собой миниатюрную модель рассуждения, предназначенную для решения сложных математических задач. Дополнительную информацию о других моделях для конкретных задач вы можете найти в этом сообщении блога. Параметры генерации: Настоятельно рекомендуем использовать жадное декодирование с температурой=0,6, topp=0,95, minp=0,1, повторения пенальти=1,05`. Шаблон чата: LFM2 использует шаблон чата, подобный ChatML, следующим образом: вы можете автоматически применить его с помощью специальной функции .applychattemplate() из преобразователей Hugging Face. > [!ВНИМАНИЕ] > ⚠️ Модель предназначена для однооборотных разговоров. Рассуждение позволяет моделям лучше структурировать свой мыслительный процесс, исследовать несколько стратегий решения и самостоятельно проверять свои окончательные ответы. Дополняя таким образом крошечные модели обширными вычислениями во время тестирования, они могут решать даже сложные математические задачи соревновательного уровня. Наши тестовые оценки показывают, что LFM2-350M-Math вполне работоспособен для своего размера. Поскольку мы заинтересованы в периферийном развертывании, наша цель — ограничить потребление памяти и задержку. Наш посттренировочный рецепт использует обучение с подкреплением, чтобы явно снизить многословность ответов там, где это нежелательно. Для этого мы объединяем…
Модальности:
Генерация текста
Области применения:
Диалог / чат Математика
Задача: Генерация текста
Автор: LiquidAI
Теги: lfm2, liquid, edge, conversational, en, endpoints_compatible
Лайков: 53 | Загрузок: 337
Описание основано на материалах HuggingFace. Перевод выполнен автоматически.
