Vigogne-2-7B-Chat-V2.0 — это французский чат LLM, основанный на LLaMA-2-7B, оптимизированный для генерации полезных и связных ответов в разговорах с пользователями. Уведомления об использовании и лицензии: Vigogne-2-7B-Chat-V2.0 соответствует политике использования Llama-2. Значительная часть данных обучения взята из GPT-3.5-Turbo и GPT-4, поэтому используйте их осторожно, чтобы избежать каких-либо нарушений условий использования OpenAI. — Версия 1.0: обучение на 420 тысячах данных чата. — V2.0: обучение на данных 520 000. Более подробную информацию можно найти в нашем блоге о релизах. Мы использовали префиксные токены : и :, чтобы различать высказывания пользователя и помощника. Вы можете применить это форматирование, используя шаблон чата, с помощью метода applychattemplate(). Квантованные версии этой модели щедро предоставлены TheBloke! — AWQ для вывода GPU: TheBloke/Vigogne-2-7B-Chat-AWQ — GTPQ для вывода GPU: TheBloke/Vigogne-2-7B-Chat-GPTQ — GGUF для вывода CPU+GPU: TheBloke/Vigogne-2-7B-Chat-GGUF Эти версии облегчают тестирование и разработку с использованием различных популярных платформ, включая AutoAWQ, vLLM, AutoGPTQ, GPTQ-for-LLaMa, llama.cpp, text-generation-webui и многое другое. Настройте OpenAI-совместимый сервер с помощью следующей команды: Вигонь все еще находится под…
Модальности:
Генерация текста
Области применения:
Диалог / чат
Задача: Генерация текста
Автор: bofenghuang
Теги: llama, LLM, llama-2, finetuned, conversational, fr, text-generation-inference
Лайков: 24 | Загрузок: 1,005
Описание основано на материалах HuggingFace. Перевод выполнен автоматически.
