Мы представляем EXAONE Deep, который демонстрирует превосходные возможности в различных задачах рассуждения, включая тесты по математике и программированию, в диапазоне от 2,4 до 32 миллиардов параметров, разработанных и выпущенных LG AI Research. Результаты оценки показывают, что 1) EXAONE Deep 2.4B превосходит другие модели сопоставимого размера, 2) EXAONE Deep 7.8B превосходит не только модели открытого веса сопоставимого масштаба, но и собственную модель рассуждения OpenAI o1-mini, и 3) EXAONE Deep 32B демонстрирует конкурентоспособную производительность по сравнению с ведущими моделями открытого веса. Для получения более подробной информации обратитесь к нашей документации, блогу и GitHub. Этот репозиторий содержит квантованные AWQ веса модели языка рассуждений 2.4B со следующими характеристиками: — Количество параметров (без вложений): 2.14B — Количество слоев: 30 — Количество заголовков внимания: GQA с 32 Q-головками и 8 KV-головками — Размер словарного запаса: 102 400 — Длина контекста: 32 768 токенов — Связующее слово Вложения: True (в отличие от моделей 7.8B и 32B) — Квантование: AWQ с 4-битным групповым квантованием только по весу (W4A16g128). Вот фрагмент кода для выполнения диалогового вывода с моделью: > ### Примечание > Модели EXAONE Deep обучаются с оптимизированной конфигурацией,…
Модальности:
Генерация текста
Области применения:
Диалог / чат
Задача: Генерация текста
Автор: LGAI-EXAONE
Теги: exaone, lg-ai, exaone-deep, conversational, custom_code, en, ko, 4-bit
Лайков: 18 | Загрузок: 112
Описание основано на материалах HuggingFace. Перевод выполнен автоматически.
