Luana Mathematics — это доработанная модель Luana-7b, основанная на архитектуре Mistral 7b. Эта модель была доработана с использованием 64 тысяч математических задач и решений, полученных из Microsoft Orca-Math. Вы можете использовать модель в ее обычной форме вплоть до 4-битного квантования. Ниже мы будем использовать оба подхода. Помните, что глаголы важны в вашей подсказке. Расскажите своей модели, как действовать или вести себя, чтобы вы могли направить ее по пути ее реакции. Подобные важные моменты помогают моделям (даже меньшим моделям, таким как 7b) работать намного лучше. Вы можете использовать Pipeline, но в этом примере я буду использовать, например, Streaming. Если у вас возникла проблема с памятью, например «CUDA Недостаточно памяти», вам следует использовать 4-битное или 8-битное квантование. Для полной модели в Colab вам понадобится A100. Если вы хотите использовать 4 или 8 бит, T4 или L4 уже решат проблему. Подробные результаты можно найти здесь и в таблице лидеров 🚀 Open Portugal LLM.
Модальности:
Генерация текста
Области применения:
Математика Диалог / чат
Задача: Генерация текста
Автор: rhaymison
Теги: mistral, portuguese, math, mathematics, matematica, conversational, pt, model-index
Лайков: 4 | Загрузок: 9
Описание основано на материалах HuggingFace. Перевод выполнен автоматически.
