CodeFuse-DeepSeek-33B-4bits — это 4-битная квантованная версия CodeFuse-DeepSeek-33B, которая представляет собой 33B Code-LLM, настроенный QLoRA для выполнения нескольких задач, связанных с кодом, на базовой модели DeepSeek-Coder-33B. После прохождения 4-битного квантования модель CodeFuse-DeepSeek-33B-4bits можно загрузить либо на один A10 (24 ГБ видеопамяти), либо на RTX 4090 (24 ГБ видеопамяти). Более того, квантованная модель по-прежнему обеспечивает впечатляющую точность 78,05% по метрике HumanEval pass@1. 🔥🔥🔥 12.01.2024 Вышел CodeFuse-DeepSeek-33B-4bits. Несмотря на процесс квантования, модель по-прежнему достигает замечательной точности 78,05% (жадное декодирование) по метрике HumanEval pass@1. 🔥🔥🔥 12.01.2024 Выпущен CodeFuse-DeepSeek-33B, получивший балл pass@1 (жадное декодирование) 78,65% на HumanEval. 🔥🔥 10 ноября 2023 г. Выпущен CodeFuse-CodeGeeX2-6B, получивший балл pass@1 (жадное декодирование) 45,12% на HumanEval, что на 9,22% больше, чем у CodeGeeX2 (35,9%). 🔥🔥20.10.2023 Вышла техническая документация CodeFuse-QWen-14B. Для тех, кто заинтересован, пожалуйста, обратитесь к статье CodeFuse в нашем официальном аккаунте WeChat по предоставленной ссылке. (https://mp.weixin.qq.com/s/PCQPkvbvfxSPzsqjOILCDw) 🔥🔥…
Модальности:
Генерация текста
Области применения:
Генерация кода
Задача: Генерация текста
Автор: codefuse-ai
Теги: llama, code, en, zh, text-generation-inference, endpoints_compatible
Лайков: 10 | Загрузок: 14
Описание основано на материалах HuggingFace. Перевод выполнен автоматически.
