Модели Kexer — это коллекция генеративных текстовых моделей с открытым исходным кодом, точно настроенных на наборе данных Kotlin Exercices. Это репозиторий доработанной модели Deepseek-coder-6.7b в формате Hugging Face Transformers. Как и в случае с базовой моделью, мы можем использовать FIM. Для этого необходимо использовать следующий формат: Модель была обучена на одном графическом процессоре A100 со следующими гиперпараметрами: Более подробную информацию о тонкой настройке можно найти в техническом отчете (скоро!). Для настройки этой модели мы использовали 15 тысяч примеров из синтетически созданного набора данных Kotlin Exercices. Каждый пример соответствует формату HumanEval. Всего набор данных содержит около 3,5 млн токенов. Для оценки мы использовали набор данных Kotlin HumanEval, который содержит все 161 задачу из HumanEval, переведенные в Kotlin экспертами-людьми. Более подробную информацию о предварительной обработке, необходимой для получения наших результатов, включая код для запуска, вы можете найти на странице наборов данных. Deepseek-coder-6.7B-kexer — это новая технология, использование которой сопряжено с риском. Проведенное на сегодняшний день тестирование не охватило и не могло охватить все сценарии. По этим причинам, как и в случае со всеми LLM, потенциальные результаты Deepseek-coder-6.7B-kexer невозможно предсказать в…
Модальности:
Генерация текста
Области применения:
Генерация кода
Задача: Генерация текста
Автор: JetBrains
Теги: llama, code, text-generation-inference, endpoints_compatible
Лайков: 7 | Загрузок: 41
Описание основано на материалах HuggingFace. Перевод выполнен автоматически.
