Мы представляем модель большого языка Meltemi-7B-Instruct-v1 (LLM), доработанную версию Meltemi-7B-v1 для инструкций. — Расширение словарного запаса токенизатора Mistral-7b греческими токенами — Длина контекста 8192 — Точная настройка с помощью 100 тыс. инструкций, переведенных машинным переводом на греческий язык, извлеченных из: Open-Platypus (только подмножества с разрешительными лицензиями) Evol-Instruct Capybara Созданный вручную набор греческих данных с многооборотными примерами, направляющий настроенную на инструкции модель к безопасным и безвредным ответам — Наша процедура SFT основана на Hugging Рецепты тонкой настройки лица Формат подсказки такой же, как формат Zephyr, и его можно использовать с помощью функций шаблона чата токенизатора следующим образом: Убедитесь, что токен BOS всегда включен в токенизированные подсказки. Возможно, это не настройка по умолчанию во всех средах оценки или тонкой настройки. Созданный нами оценочный пакет включает 6 наборов тестов. Пакет интегрирован с lm-eval-harness. Наш пакет оценки включает в себя: Четыре машинно переведенные версии (ARC греческий, Truthful QA греческий, HellaSwag греческий, MMLU греческий) установленных английских тестов на понимание языка и рассуждение (ARC Challenge, Truthful QA, Hellaswag,…
Модальности:
Генерация текста
Области применения:
Диалог / чат Следование инструкциям
Задача: Генерация текста
Автор: ilsp
Теги: mistral, finetuned, conversational, el, en, text-generation-inference, endpoints_compatible
Лайков: 37 | Загрузок: 23
Описание основано на материалах HuggingFace. Перевод выполнен автоматически.
