Эта модель была обучена с использованием расширенного набора из 250 000 чатов на португальском языке. Модель призвана помочь заполнить пробел в моделях на португальском языке. Тюнингованная из Мистраля 7б модель была приспособлена в основном для общения. Вы можете использовать модель в ее обычной форме вплоть до 4-битного квантования. Ниже мы будем использовать оба подхода. Помните, что глаголы важны в вашей подсказке. Расскажите своей модели, как действовать или вести себя, чтобы вы могли направить ее по пути ее реакции. Подобные важные моменты помогают моделям (даже меньшим моделям, таким как 7b) работать намного лучше. Вы можете использовать Pipeline, но в этом примере я буду использовать, например, Streaming. Если у вас возникла проблема с памятью, например «CUDA Недостаточно памяти», вам следует использовать 4-битное или 8-битное квантование. Для полной модели в Colab вам понадобится A100. Если вы хотите использовать 4 или 8 бит, T4 или L4 уже решат проблему. Человек: Ола Луана, это точный ответ на вопрос о последнем семестре. Подери меня, помоги? Луана: Ола! Claro, ficarei feliz em ajudá-lo. О том, что вы думаете о последнем семестре? Человек: Я думаю о том, чтобы сделать что-нибудь и что мне нужно, чтобы сделать что-то другое. Вы хотите, чтобы я думал? Луана: Кларо! Воте поде…
Модальности:
Генерация текста
Области применения:
Диалог / чат
Задача: Генерация текста
Автор: rhaymison
Теги: mistral, Misral, Portuguese, 7b, chat, portugues, conversational, pt
Лайков: 5 | Загрузок: 11
Описание основано на материалах HuggingFace. Перевод выполнен автоматически.
