RakutenAI-7B — это систематическая инициатива, которая приносит новейшие технологии в мир японских LLM. RakutenAI-7B достигает лучших результатов в тестах на понимание японского языка, сохраняя при этом конкурентоспособную производительность на наборах тестов по английскому среди аналогичных моделей, таких как OpenCalm, Elyza, Youri, Nekomata и Swallow. RakutenAI-7B использует архитектуру модели Mistral и основан на предварительно обученной контрольной точке Mistral-7B-v0.1, что является примером успешной модернизации весов предварительно обученной модели. Более того, мы расширяем словарный запас Mistral с 32 тыс. до 48 тыс., чтобы обеспечить лучшее соотношение символов на токен для японского языка. Если вы ищете модель фундамента, обратите внимание на RakutenAI-7B. Если вы ищете модель, настроенную по инструкциям, проверьте RakutenAI-7B-instruct. Независимая оценка Каматы и др. для Nejumi LLMリーダーボード Neo с использованием средневзвешенного значения llm-jp-eval и японского MT-bench также подтверждает самую высокую производительность версий чата/инструктирования RakutenAI-7B среди открытых LLM аналогичных размеров с оценкой 0,393/0,331 соответственно по состоянию на 22 марта 2024 г. Разработано: Rakuten Group, Inc. Язык(и): Японский, Английский Лицензия: Данная модель находится под лицензией…
Модальности:
Генерация текста
Области применения:
Диалог / чат
Задача: Генерация текста
Автор: Rakuten
Теги: mistral, conversational, en, ja, text-generation-inference, endpoints_compatible
Лайков: 65 | Загрузок: 289
Описание основано на материалах HuggingFace. Перевод выполнен автоматически.
