Shisa V2.1 — это обновление семейства двуязычных японских и английских (JA/EN) моделей чатов общего назначения Shisa V2, обученных Shisa.AI. Эти модели нацелены на то, чтобы преуспеть в задачах по японскому языку, сохраняя при этом надежные навыки владения английским языком. После выпуска нашей модели Shisa V2 405B мы повторили выборку новой версии нашего набора данных Shisa V2 и обнаружили заметное повышение производительности. Версия 2.1 началась как «быстрое» обновление с этим и некоторыми другими исправлениями данных, но привело к обновлениям и улучшениям почти всех наших наборов данных Shisa V2, а также к нескольким новым дополнениям для лучшего выполнения инструкций, перевода, вежливости и других языковых улучшений, специфичных для японского языка. Помимо перенастроенных рецептов SFT и DPO, некоторые из этих новых моделей также включают дополнительные этапы слияния моделей и RL. Первоначальный выпуск Shisa V2.1 включает улучшенные версии наших самых популярных моделей классов 14B и 70B, а также новые модели размеров 1.2B, 3B и 8B, подходящие для локального и периферийного использования. Каждый из них имеет лучшие в своем классе показатели японского языка при соответствующем размере. При разработке модели Shisa V2.1 мы руководствовались последней версией (V2.1) нашей внутренней многоуровневой тестовой батареи и напрямую не…
Модальности:
Генерация текста
Области применения:
Диалог / чат
Задача: Генерация текста
Автор: shisa-ai
Теги: qwen3, shisa, qwen, axolotl, trl, conversational, ja, en
Лайков: 9 | Загрузок: 176
Описание основано на материалах HuggingFace. Перевод выполнен автоматически.
