CodeFuse-CodeLlama-34B — это 34B Code-LLM, настроенный QLoRA для выполнения нескольких задач кода (600 тыс. инструкций/ответов) на базовой модели CodeLlama-34b-Python. Длина контекста тонкой настройки составляет 4 КБ, при необходимости его можно настроить на контекст 16 КБ. 🔥🔥🔥26.09.2023 Мы рады сообщить о выпуске 4-битной квантованной версии CodeFuse-CodeLlama-34B. Несмотря на процесс квантования, модель по-прежнему достигает замечательной точности 73,8% (жадное декодирование) по метрике HumanEval pass@1. 🔥🔥🔥 11 сентября 2023 г. CodeFuse-CodeLlama34B достигла 74,4% прохода @ 1 (жадное декодирование) на HumanEval, что на данный момент является результатом SOTA для LLM с открытым исходным кодом. Домашняя страница: 🏡 https://github.com/codefuse-ai (пожалуйста, поддержите нас с помощью Star🌟 + Fork🚀 + Watch👀) + Если вы хотите настроить модель самостоятельно, вы можете посетить ✨MFTCoder✨✨ + Если вы хотите развернуть модель самостоятельно, вы можете посетить ✨FasterTransformer4CodeFuse✨✨ + Если вы хотите увидеть демонстрацию модели вы можете посетить ✨CodeFuse Demo✨✨ python>=3.8 pytorch>=2.0.0 Transformers==4.32.0 Sentencepiece * CUDA 11.4 Строка вывода представляет собой объединенную строку, сформированную путем объединения данных разговора (содержимого системы, человека и бота) в процессе обучения…
Модальности:
Генерация текста
Области применения:
Генерация кода
Задача: Генерация текста
Автор: codefuse-ai
Теги: llama, code, en, zh, text-generation-inference, endpoints_compatible
Лайков: 93 | Загрузок: 186
Описание основано на материалах HuggingFace. Перевод выполнен автоматически.
