Мы представляем EXAONE Deep, который демонстрирует превосходные возможности в различных задачах рассуждения, включая тесты по математике и программированию, в диапазоне от 2,4 до 32 миллиардов параметров, разработанных и выпущенных LG AI Research. Результаты оценки показывают, что 1) EXAONE Deep 2.4B превосходит другие модели сопоставимого размера, 2) EXAONE Deep 7.8B превосходит не только модели открытого веса сопоставимого масштаба, но и собственную модель рассуждения OpenAI o1-mini, и 3) EXAONE Deep 32B демонстрирует конкурентоспособную производительность по сравнению с ведущими моделями открытого веса. Для получения более подробной информации обратитесь к нашей документации, блогу и GitHub. Этот репозиторий содержит различные варианты точности языковой модели рассуждений 2.4B в формате GGUF, которая содержит следующие функции: — Количество параметров (без вложений): 2.14B — Количество слоев: 30 — Количество заголовков внимания: GQA с 32 Q-головками и 8 KV-головками — Размер словарного запаса: 102 400 — Длина контекста: 32 768 токенов — Связующее слово Вложения: True (в отличие от моделей 7.8B и 32B) — Квантование: Q80, Q6K, Q5KM, Q4KM, IQ4XS в формате GGUF (также включает веса BF16`). Вот шаги для запуска диалогового вывода с моделью: 1. Установите llama.cpp. Пожалуйста, обратитесь к llama.cpp…
Модальности:
Генерация текста
Области применения:
Диалог / чат
Задача: Генерация текста
Автор: LGAI-EXAONE
Теги: gguf, lg-ai, exaone, exaone-deep, en, ko, endpoints_compatible, conversational
Лайков: 30 | Загрузок: 163
Описание основано на материалах HuggingFace. Перевод выполнен автоматически.
