Mellum-4b-sft-kotlin — это доработанная версия первой модели большого языка (LLM) JetBrains с открытым исходным кодом, оптимизированная для задач, связанных с кодом. Mellum-4b-sft-kotlin, предварительно обученный на более чем 4 триллионах токенов с контекстным окном из 8192 токенов на нескольких языках программирования, а затем настроенный, специально предназначен для завершения кода в Kotlin. Модель соответствует архитектуре в стиле LLaMA с 4 миллиардами параметров, что делает ее эффективной как для облачного вывода (например, через vLLM), так и для локального развертывания (например, с использованием llama.cpp или Ollama). Меллум обучался с использованием автоматической смешанной точности (AMP) с точностью bf16. Загруженная версия на Hugging Face сохраняет формат bf16 для публичного использования. Разработанный для интеграции в профессиональные инструменты разработчиков (например, интеллектуальные предложения кода в IDE), помощников по кодированию на базе искусственного интеллекта и исследований в области понимания и генерации кода, Mellum также хорошо подходит для образовательных приложений и экспериментов по точной настройке. — Предвзятости: могут отражать предвзятости, присутствующие в общедоступных базах кода. Например, он, скорее всего, будет создавать код, который по стилю аналогичен репозиториям с открытым исходным кодом. — Безопасность: предложения кода не должны считаться безопасными или свободными от…
Модальности:
Генерация текста
Области применения:
Генерация кода
Языки программирования:
Kotlin
Задача: Генерация текста
Автор: JetBrains
Теги: llama, code, text-generation-inference, endpoints_compatible
Лайков: 21 | Загрузок: 98
Описание основано на материалах HuggingFace. Перевод выполнен автоматически.
