Жангир Азербаев, Хейли Шёлкопф, Кейран Пастер, Марко Дос Сантос, Стивен Макалир, Альберт К. Цзян, Цзя Денг, Стелла Бидерман, Шон Веллек Лемма 34B — это языковая модель для математики. Он был инициализирован с весами Code Llama 34B и обучен на Proof-Pile-2 для токенов 50B. Модели лемм особенно сильны в математических рассуждениях и использовании вычислительных инструментов для математики, таких как Python и формальные средства доказательства теорем. В математических задачах, связанных с цепочкой мыслей, модели Llemma превосходят Llama-2, Code Llama, а с учетом размера модели превосходят Minerva. Дополнительную производительность можно получить, используя голосование большинством: в дополнение к цепочке мыслей Llemma обладает сильными возможностями в решении задач вычислительной математики. Информацию об использовании инструментов и формальных оценках доказательства теорем см. в нашей статье.
Модальности:
Генерация текста
Области применения:
Математика Логика и рассуждение
Задача: Генерация текста
Автор: EleutherAI
Теги: llama, math, reasoning, en, text-generation-inference, endpoints_compatible
Лайков: 100 | Загрузок: 516
Описание основано на материалах HuggingFace. Перевод выполнен автоматически.
