Мы представляем модель большого языка Meltemi-7B-Instruct-v1 (LLM), доработанную версию Meltemi-7B-v1 для инструкций. Квантованная версия была создана с использованием AutoAWQ. Квантованную модель можно использовать с помощью функции шаблона чата токенизатора следующим образом: Эта модель не соответствует предпочтениям человека и, следовательно, может генерировать вводящий в заблуждение, вредный или токсичный контент. Команда ILSP использовала сервисы облачных вычислений Amazon, которые были доступны через GRNET в рамках облачной инфраструктуры OCRE, предоставляя веб-сервисы Amazon греческому академическому и исследовательскому сообществу.
Модальности:
Генерация текста
Области применения:
Диалог / чат Следование инструкциям
Задача: Генерация текста
Автор: ilsp
Теги: mistral, finetuned, quantized, awq, conversational, el, en, text-generation-inference
Лайков: 6 | Загрузок: 3
Описание основано на материалах HuggingFace. Перевод выполнен автоматически.
