Мы представляем EXAONE Deep, который демонстрирует превосходные возможности в различных задачах рассуждения, включая тесты по математике и программированию, в диапазоне от 2,4 до 32 миллиардов параметров, разработанных и выпущенных LG AI Research. Результаты оценки показывают, что 1) EXAONE Deep 2.4B превосходит другие модели сопоставимого размера, 2) EXAONE Deep 7.8B превосходит не только модели открытого веса сопоставимого масштаба, но и собственную модель рассуждения OpenAI o1-mini, и 3) EXAONE Deep 32B демонстрирует конкурентоспособную производительность по сравнению с ведущими моделями открытого веса. Для получения более подробной информации обратитесь к нашей документации, блогу и GitHub. Этот репозиторий содержит квантованные AWQ веса модели языка рассуждений 32B со следующими характеристиками: — Количество параметров (без вложений): 30,95B — Количество слоев: 64 — Количество головок внимания: GQA с 40 головками Q и 8 головками KV — Размер словарного запаса: 102 400 — Длина контекста: 32 768 токенов — Квантование: AWQ с 4-битным групповым квантованием только по весу (W4A16g128). Вот фрагмент кода для выполнения диалогового вывода с моделью: > ### Примечание > Модели EXAONE Deep обучаются с оптимизированной конфигурацией, > поэтому мы рекомендуем следовать разделу «Руководство по использованию»…
Модальности:
Генерация текста
Области применения:
Диалог / чат
Задача: Генерация текста
Автор: LGAI-EXAONE
Теги: exaone, lg-ai, exaone-deep, conversational, custom_code, en, ko, 4-bit
Лайков: 20 | Загрузок: 202
Описание основано на материалах HuggingFace. Перевод выполнен автоматически.
