Jais-2-8B-Chat — это двуязычная арабско-английская языковая модель, разработанная MBZUAI, Inception и Cerebras. Модель Jais-2-8B-Chat обучена с нуля на арабских и английских данных и основана на специальном словаре, ориентированном на арабский язык. Она эффективно фиксирует современный стандартный арабский язык, региональные диалекты и смешанное арабско-английское переключение кода. Модель открыто доступна по лицензии Apache 2.0, а также развертывается как быстрый, готовый к использованию чат, работающий на оборудовании Cerebras. Посетите веб-приложение Jais-2. — Разработчики модели: MBZUAI, Inception, Cerebras. — Языки: арабский (MSA и диалекты) и английский. — Архитектура: архитектура на основе трансформатора, только декодер с многоголовым самообслуживанием. — Параметры: 8 миллиардов — Длина контекста: 8192 — Размер словаря: 150 272 — Инфраструктура обучения: оптимизирована для скоплений галактик Cerebras CS-2 и Кондор — Ключевые варианты дизайна: встраивание вращающихся позиций (RoPE), активация Squared-ReLU, пользовательская параметризация μP и соотношение размера фильтра к скрытому размеру 8:1. Мы оцениваем Jais-2-8B по двум ключевым критериям, которые отражают как следование инструкциям, так и способность к воспроизведению арабского языка: IFEval (английский и арабский язык) и AraGen-12-24 (3C3H).…
Модальности:
Генерация текста
Области применения:
Диалог / чат
Задача: Генерация текста
Автор: inceptionai
Теги: jais2, conversational, ar, en, endpoints_compatible
Лайков: 17 | Загрузок: 14,261
Описание основано на материалах HuggingFace. Перевод выполнен автоматически.
