Модель(и) AWQ для вывода с помощью графического процессора. Модели GPTQ для вывода графического процессора с несколькими вариантами параметров квантования. * 2, 3, 4, 5, 6 и 8-битные модели GGUF для вывода CPU+GPU. Используйте следующие наборы данных для точной настройки codellama/CodeLlama-34B, чтобы улучшить возможности вывода и планирования модели. Всего 153 013 образцов. — jondubin/airoboros-2.2: категории фильтров, связанные с кодированием, рассуждениями и планированием. 23 462 образца. — Open-Orca/OpenOrca: фильтрация категории «кроватка» в наборе данных 1M GPT4. 74 440 образцов. — Garage-bAInd/Open-Platypus: 100%, 24 926 сэмплов. — WizardLM/WizardLMevolinstructV2196k: часть покрытия кодирования. 30 185 образцов — GPT4: 130/175 (74,29%) — GPT3-Turbo-0613: 105/174 (60,00%) Code Llama — это коллекция предварительно обученных и точно настроенных генеративных текстовых моделей с масштабом от 7 до 34 миллиардов параметров. Это репозиторий базовой версии 13B в формате Hugging Face Transformers. Эта модель предназначена для общего синтеза и понимания кода. Ссылки на другие модели можно найти в указателе внизу. Чтобы использовать эту модель, обязательно устанавливайте преобразователи из основной версии до выхода следующей версии: — [x] Завершение кода. — [х]…
Модальности:
Генерация текста
Области применения:
Генерация кода
Задача: Генерация текста
Автор: uukuguy
Теги: llama, llama-2, code, en, model-index, text-generation-inference, endpoints_compatible
Лайков: 17 | Загрузок: 1,066
Описание основано на материалах HuggingFace. Перевод выполнен автоматически.
