Mellum-4b-sft-python — это доработанная версия первой модели большого языка (LLM) JetBrains с открытым исходным кодом, оптимизированная для задач, связанных с кодом. Mellum-4b-sft-python, предварительно обученный на более чем 4 триллионах токенов с контекстным окном из 8192 токенов на нескольких языках программирования, а затем настроенный, специально предназначен для завершения кода в Python. Модель соответствует архитектуре в стиле LLaMA с 4 миллиардами параметров, что делает ее эффективной как для облачного вывода (например, через vLLM), так и для локального развертывания (например, с использованием llama.cpp или Ollama). Меллум обучался с использованием автоматической смешанной точности (AMP) с точностью bf16. Загруженная версия на Hugging Face сохраняет формат bf16 для публичного использования. Разработанный для интеграции в профессиональные инструменты разработчиков (например, интеллектуальные предложения кода в IDE), помощников по кодированию на базе искусственного интеллекта и исследований в области понимания и генерации кода, Mellum также хорошо подходит для образовательных приложений и экспериментов по точной настройке. — Предвзятости: могут отражать предвзятости, присутствующие в общедоступных базах кода. Например, он, скорее всего, будет создавать код, который по стилю аналогичен репозиториям с открытым исходным кодом. — Безопасность: предложения по коду не следует считать безопасными или свободными от…
Модальности:
Генерация текста
Области применения:
Генерация кода
Языки программирования:
Python
Задача: Генерация текста
Автор: JetBrains
Теги: llama, code, model-index, text-generation-inference, endpoints_compatible
Лайков: 55 | Загрузок: 1,075
Описание основано на материалах HuggingFace. Перевод выполнен автоматически.
