Это модель японского языка, предназначенная только для декодера 3B-параметров, точно настроенная на наборах данных, следующих инструкциям, построенная на основе базовой модели японского языка StableLM-3B-4E1T Base. Если вы ищете более крупную модель, обратите внимание на японскую Stable LM Instruct Gamma 7B. Разработчик: Stability AI Тип модели: японский StableLM-3B-4E1T Модель Instruct представляет собой авторегрессионную языковую модель, основанную на архитектуре декодера-трансформера. Язык(и): Японский. Лицензия: Данная модель распространяется по лицензии Apache, версия 2.0. Контактное лицо: Если у вас есть вопросы и комментарии по поводу модели, присоединяйтесь к сообществу Stable Community Japan. Для будущих объявлений/информации о моделях Stability AI, исследованиях и мероприятиях следуйте https://twitter.com/StabilityAIJP. Модель представляет собой преобразователь только для декодера, аналогичный архитектуре LLaMA (Touvron et al., 2023) со следующими модификациями: Встраивание позиций: Встраивание вращающихся позиций (Su et al., 2021), примененное к первым 25% размеров встраивания головки для повышения пропускной способности согласно Black et al. (2022). Нормализация: LayerNorm (Ba et al., 2016) с выученными терминами смещения в отличие от RMSNorm (Zhang & Sennrich, 2019). Токенизатор**: GPT-NeoX (черный и…
Модальности:
Генерация текста
Области применения:
Следование инструкциям
Задача: Генерация текста
Автор: stabilityai
Теги: stablelm_epoch, japanese-stablelm, causal-lm, custom_code, ja
Лайков: 29 | Загрузок: 82
Описание основано на материалах HuggingFace. Перевод выполнен автоматически.
