Jais-30b-chat-v1 — это Jais-30b-v1, настроенный на основе тщательно подобранного набора данных пар быстрого ответа на арабском и английском языках. Архитектура модели аналогична нашим предыдущим моделям Jais-13b, которые основаны на архитектуре только декодера на основе трансформатора (GPT-3) и используют нелинейность SwiGLU. Он реализует встраивание позиций ALiBi, позволяя модели экстраполировать последовательности большой длины, обеспечивая улучшенную обработку контекста и точность модели. Ниже приведен пример кода для использования модели. Обратите внимание, что для модели требуется собственный класс модели, поэтому пользователи должны включить параметрtrustremotecode=True при загрузке модели. Чтобы получить ту же производительность, что и в нашем тестировании, необходимо выполнить определенную подсказку. Ниже приведен пример кода, содержащий это форматирование: Мы предоставляем поддержку развертывания конечной точки вывода через специальный обработчик. Более подробную информацию о конечных точках вывода можно найти здесь. — Разработчик: Core42 (Inception), Cerebras Systems. — Язык(и) (NLP): арабский (MSA) и английский. — Лицензия: Apache 2.0. — Точная настройка на основе модели: jais-30b-v1. — Ввод: только текстовые данные. — Выход: модель генерирует текст. — Блог: доступ здесь — Статья: Джаис и Джаис-чат: арабо-центричный фонд и настроенный на инструкции открытый…
Модальности:
Генерация текста
Области применения:
Диалог / чат
Задача: Генерация текста
Автор: inceptionai
Теги: jais, Arabic, English, LLM, Decoder, causal-lm, custom_code, ar
Лайков: 24 | Загрузок: 0
Описание основано на материалах HuggingFace. Перевод выполнен автоматически.
