Стабильный LM 2 12B — это языковая модель только для декодера с 12,1 миллиардами параметров, предварительно обученная на 2 триллионах токенов разнообразных многоязычных и кодовых наборов данных для двух эпох. Обратите внимание: для коммерческого использования см. https://stability.ai/license. Приступите к созданию текста с помощью Stable LM 2 12B, используя следующий фрагмент кода: Разработчик: Stability AI Тип модели: Стабильные модели LM 2 12B представляют собой авторегрессионные языковые модели, основанные на архитектуре декодера преобразователя. Язык(и): английский Документ: Библиотека технических отчетов Stable LM 2: GPT-NeoX Лицензия: Лицензия сообщества Stability AI. Коммерческая лицензия: для коммерческого использования этой модели см. https://stability.ai/license. Контактная информация: по вопросам и комментариям о модели пишите по электронной почте lm@stability.ai Модель представляет собой преобразователь только для декодера со следующей архитектурой: Встраивание позиций: Встраивание позиций (Su et al., 2021) применяется к первым 25% размеров встраивания головки для повышения пропускной способности согласно Black et al. (2022). Параллельные слои: остаточные слои параллельного внимания и прямой связи с одним входным слоем LayerNorm (Ванг, 2021). Нормализация: LayerNorm (Ba et al., 2016) без отклонений.…
Модальности:
Генерация текста
Задача: Генерация текста
Автор: stabilityai
Теги: stablelm, causal-lm, en, de, es, fr, it, nl
Лайков: 120 | Загрузок: 628
Описание основано на материалах HuggingFace. Перевод выполнен автоматически.
