Обратите внимание: для коммерческого использования см. https://stability.ai/license. Stable LM 2 1.6B — это языковая модель только для декодера с 1,6 миллиардами параметров, предварительно обученная на 2 триллионах токенов различных многоязычных и кодовых наборов данных для двух эпох. Начните генерировать текст с помощью Stable LM 2 1.6B, используя следующий фрагмент кода: Разработчик: Stability AI Тип модели: Стабильные модели LM 2 1.6B представляют собой авторегрессионные языковые модели, основанные на архитектуре декодера преобразователя. Язык(и): английский Документ: Stable LM 2 1.6B Библиотека технических отчетов: GPT-NeoX Лицензия: Лицензия Stability AI Community. Коммерческая лицензия: для коммерческого использования этой модели см. https://stability.ai/license. Контактная информация: по вопросам и комментариям о модели пишите по электронной почте lm@stability.ai. Модель представляет собой преобразователь только для декодера, аналогичный архитектуре LLaMA (Touvron et al., 2023) со следующими модификациями: Встраивание позиций: Встраивание вращающихся позиций (Su et al., 2021), применяемое к первым 25% размеров встраивания головки. для повышения пропускной способности по данным Black et al. (2022). Нормализация: LayerNorm (Ba et al., 2016) с выученными терминами смещения в отличие от RMSNorm (Zhang & Sennrich,…
Модальности:
Генерация текста
Задача: Генерация текста
Автор: stabilityai
Теги: stablelm, causal-lm, en, de, es, fr, it, nl
Лайков: 193 | Загрузок: 2,994
Описание основано на материалах HuggingFace. Перевод выполнен автоматически.
