— Это квантованная версия mistralai/Codestral-22B-v0.1, созданная с использованием llama.cpp. — Спасибо @bullerwins за преобразование формата HF. Codestrall-22B-v0.1 обучен на разнообразном наборе данных из более чем 80 языков программирования, включая самые популярные, такие как Python, Java, C, C++, JavaScript и Bash (подробнее в блогпосте). Модель может быть запрошена: — По указанию, например, чтобы ответить на любые вопросы о фрагменте кода (написать документацию, объяснить, факторизовать) или сгенерировать код по конкретным указаниям — Как заполнить середину (FIM), чтобы предсказать средние токены между префиксом и суффиксом (очень полезно для надстроек разработки программного обеспечения, таких как в VS Code). Рекомендуется использовать mistralai/Codestral-22B-v0.1 с мистраль-выводом. После установки mistralinference в вашей среде должна быть доступна команда CLI mistral-chat. Сгенерирует ответ на вопрос «Напишите мне функцию, которая вычисляет Фибоначчи в Rust» и должен дать что-то вроде следующих: После установки mistralinference и запуска pip install —upgrade mistralcommon, чтобы убедиться, что у вас установлен mistral_common>=1.2: Codestral-22B-v0.1 не имеет никаких механизмов модерации. Были…
Модальности:
Генерация текста
Области применения:
Генерация кода
Задача: Генерация текста
Автор: QuantFactory
Теги: gguf, code
Лайков: 11 | Загрузок: 358
Описание основано на материалах HuggingFace. Перевод выполнен автоматически.
