1. Краткое описание модели 2. Использование 3. Ограничения 4. Обучение 5. Лицензия 6. Цитирование Это Megatron-версия StarCoderBase. Мы направляем читателя на страницу модели StarCoderBase для получения полной документации об этой модели. Модели StarCoderBase представляют собой модели параметров 15,5B, обученные на 80 языках программирования из стека (v1.2), с исключением запросов на отказ. Модель использует Multi Query Attention, контекстное окно из 8192 токенов, и была обучена с использованием цели Fill-in-the-Middle на 1 триллионе токенов. — Repository: bigcode/Megatron-LM — Project Website: bigcode-project.org — Paper: 💫StarCoder: May the source be with you! — Контактное лицо: contact@bigcode-project.org — Языки: 80 языков программирования Модель обучалась на коде GitHub. Таким образом, это не модель команд, и такие команды, как «Написать функцию, которая вычисляет квадратный корень», не работают хорошо. Однако с помощью подсказки Tech Assistant вы можете превратить его в способного технического помощника. Набор данных предварительной подготовки модели был отфильтрован только для разрешительных лицензий. Тем не менее, модель может дословно генерировать исходный код из набора данных. Лицензия на код может потребовать указания авторства и/или других конкретных…
Модальности:
Генерация текста
Области применения:
Генерация кода
Задача: Генерация текста
Автор: bigcode
Теги: code, model-index, endpoints_compatible
Лайков: 2 | Загрузок: 0
Описание основано на материалах HuggingFace. Перевод выполнен автоматически.
