StableCode-Completion-Alpha-3B-4K — это модель завершения кода только для декодера с 3 миллиардами параметров, предварительно обученная на разнообразном наборе языков программирования, которая возглавила опрос разработчиков stackoverflow. Модель предназначена для завершения однострочного/многострочного кода из длинного контекстного окна до 4 тыс. токенов. Приступите к созданию кода с помощью StableCode-Completion-Alpha-3B-4k, используя следующий фрагмент кода: Разработано: Stability AI Тип модели: StableCode-Completion-Alpha-3B-4k Модели представляют собой авторегрессионные языковые модели, основанные на архитектуре декодера преобразователя. Язык(и): Библиотека кода: Лицензия GPT-NeoX: Контрольные точки модели лицензируются по лицензии Apache 2.0. Контакт: По вопросам и комментариям о модели обращайтесь по электронной почте lm@stability.ai. Уровень декодера: параллельное внимание и остатки MLP с одним входом LayerNorm (Wang & Komatsuzaki, 2021). Position Embeddings: Rotary Position Embeddings (Su et al., 2021). Bias**: только термины смещения LayerNorm. 4096 за 300 миллиардов токенов в bigcode/starcoder-data. Первый этап предварительного обучения опирается на 300 миллиардов токенов, полученных из различных ведущих языков программирования…
Модальности:
Генерация текста
Области применения:
Генерация кода
Задача: Генерация текста
Автор: stabilityai
Теги: gpt_neox, causal-lm, code, model-index, text-generation-inference, endpoints_compatible
Лайков: 277 | Загрузок: 935
Описание основано на материалах HuggingFace. Перевод выполнен автоматически.
