Я рад сообщить о выпуске новой модели под названием Mistral-7B-code-16k-qlora. Эта небольшая и быстрая модель обещает многообещающую поддержку кодирования или работу в качестве второго пилота. Сейчас я ищу людей, которые помогут мне это проверить! Эта модель была обучена на 3x RTX 3090 в моей домашней лаборатории, потребляя около 65 кВтч примерно за 23 цента, что эквивалентно примерно 15 долларам за электроэнергию. 1. https://huggingface.co/TheBloke/Mistral-7B-Code-16K-qlora-GPTQ 2. https://huggingface.co/TheBloke/Mistral-7B-Code-16K-qlora-AWQ 3. https://huggingface.co/TheBloke/Mistral-7B-Code-16K-qlora-GGUF nickrosh/Evol-Instruct-Code-80k-v1 https://huggingface.co/datasets/nickrosh/Evol-Instruct-Code-80k-v1 для сравнения — оригинальная модель Mistral, протестированная на той же машине.
Модальности:
Генерация текста
Области применения:
Диалог / чат Генерация кода
Задача: Генерация текста
Автор: Nondzu
Теги: mistral, conversational, text-generation-inference, endpoints_compatible
Лайков: 26 | Загрузок: 521
Описание основано на материалах HuggingFace. Перевод выполнен автоматически.
