Преобразовано с использованием этого сценария. В исходной версии mistralai/Codestral-22B-v0.1 отсутствовали токены в словаре (см. обсуждение). Это преобразование основано на новейшей версии, содержащей исправление, и добавляет следующие специальные токены: — [INST] — [/INST] — [IMG] — [PREFIX] — [SUFFIX] — [MIDDLE] Codestrall-22B-v0.1 обучается на разнообразном наборе данных Более 80 языков программирования, включая самые популярные, такие как Python, Java, C, C++, JavaScript и Bash (подробнее в блогпосте). Модель может быть запрошена: — По указанию, например, чтобы ответить на любые вопросы о фрагменте кода (написать документацию, объяснить, факторизовать) или сгенерировать код по конкретным указаниям — Как заполнить середину (FIM), чтобы предсказать средние токены между префиксом и суффиксом (очень полезно для надстроек разработки программного обеспечения, таких как в VS Code). Рекомендуется использовать mistralai/Codestral-22B-v0.1 с мистраль-выводом. После установки mistralinference в вашей среде должна быть доступна команда CLI mistral-chat. Сгенерирует ответ на вопрос «Напишите мне функцию, вычисляющую числа Фибоначчи в Rust» и должен дать что-то вроде следующего: После установки неправильного вывода и запуска…
Модальности:
Генерация текста
Области применения:
Генерация кода
Задача: Генерация текста
Автор: legraphista
Теги: mistral, code, FIM, FIM fix, tokenizer fix, text-generation-inference, endpoints_compatible
Лайков: 6 | Загрузок: 4
Описание основано на материалах HuggingFace. Перевод выполнен автоматически.
