Qwen/Qwen2-72B-Instruct-AWQ - Каталог нейросетей
Генерация текста

Qwen/Qwen2-72B-Instruct-AWQ

Добавлено:
Qwen/Qwen2-72B-Instruct-AWQ

Qwen2 — новая серия больших языковых моделей Qwen. Для Qwen2 мы выпускаем ряд базовых языковых моделей и языковых моделей с настройкой инструкций с диапазоном от 0,5 до 72 миллиардов параметров, включая модель «Смесь экспертов». Этот репозиторий содержит настроенную по инструкциям модель 72B Qwen2. По сравнению с современными языковыми моделями с открытым исходным кодом, включая ранее выпущенную Qwen1.5, Qwen2 в целом превзошел большинство моделей с открытым исходным кодом и продемонстрировал конкурентоспособность по сравнению с проприетарными моделями в ряде тестов, нацеленных на понимание языка, генерацию языка, многоязычные возможности, кодирование, математику, рассуждение и т. д. Qwen2-72B-Instruct-AWQ поддерживает длину контекста до 131 072 токенов, что позволяет обрабатывать обширные входные данные. Пожалуйста, обратитесь к этому разделу за подробными инструкциями по развертыванию Qwen2 для обработки длинных текстов. Более подробную информацию можно найти в нашем блоге, GitHub и документации. Qwen2 — это серия языковых моделей, включающая языковые модели декодеров разных размеров. Для каждого размера мы выпускаем модель базового языка и согласованную модель чата. Он основан на архитектуре Transformer с активацией SwiGLU, внимание…

Модальности:
Генерация текста

Области применения:
Диалог / чат Следование инструкциям


Задача: Генерация текста
Автор: Qwen
Теги: qwen2, chat, conversational, en, text-generation-inference, endpoints_compatible, 4-bit, awq
Лайков: 41  |  Загрузок: 421

Открыть на HuggingFace →

Описание основано на материалах HuggingFace. Перевод выполнен автоматически.