StarChat — это серия языковых моделей, предназначенных для работы в качестве полезных помощников в программировании. StarChat-β — вторая модель в серии и представляет собой доработанную версию StarCoderPlus, обученную на «нецензурированном» варианте набора данных openassistant-guanaco. Мы обнаружили, что удаление встроенного выравнивания набора данных OpenAssistant повысило производительность в таблице лидеров Open LLM и сделало модель более полезной для задач кодирования. Однако это означает, что модель, скорее всего, создаст проблемный текст, когда будет предложено это сделать, и ее следует использовать только в образовательных и исследовательских целях. — Тип модели: модель, подобная GPT, с параметрами 16B, точно настроенная на «нецензурированном» варианте набора данных openassistant-guanaco. — Язык(и) (НЛП): в основном английский и более 80 языков программирования. — Лицензия: BigCode Open RAIL-M v1 — Точная настройка на основе модели: bigcode/starcoderplus — Репозиторий: https://github.com/bigcode-project/starcoder — Демо: https://huggingface.co/spaces/HuggingFaceH4/starchat-playground Модель была доработана на варианте набора данных OpenAssistant/oasst1, который содержит разнообразные диалоги на более чем 35 языках. В результате модель можно использовать для общения и проверить…
Модальности:
Генерация текста
Области применения:
Диалог / чат
Задача: Генерация текста
Автор: HuggingFaceH4
Теги: tensorboard, gpt_bigcode, generated_from_trainer, text-generation-inference, endpoints_compatible
Лайков: 263 | Загрузок: 961
Описание основано на материалах HuggingFace. Перевод выполнен автоматически.
