Мы представляем EXAONE Deep, который демонстрирует превосходные возможности в различных задачах рассуждения, включая тесты по математике и программированию, в диапазоне от 2,4 до 32 миллиардов параметров, разработанных и выпущенных LG AI Research. Результаты оценки показывают, что 1) EXAONE Deep 2.4B превосходит другие модели сопоставимого размера, 2) EXAONE Deep 7.8B превосходит не только модели открытого веса сопоставимого масштаба, но и собственную модель рассуждения OpenAI o1-mini, и 3) EXAONE Deep 32B демонстрирует конкурентоспособную производительность по сравнению с ведущими моделями открытого веса. Для получения более подробной информации обратитесь к нашей документации, блогу и GitHub. Этот репозиторий содержит различные точности модели языка рассуждений 32B в формате GGUF, который содержит следующие функции: — Количество параметров (без вложений): 30,95B — Количество слоев: 64 — Количество головок внимания: GQA с 40 головками Q и 8 головками KV — Размер словарного запаса: 102 400 — Длина контекста: 32 768 токенов — Квантование: Q80, Q6K, Q5KM, Q4KM, IQ4XS в формате GGUF (также включает веса BF16`). Вот шаги для запуска диалогового вывода с моделью: 1. Установите llama.cpp. Для получения более подробной информации обратитесь к репозиторию llama.cpp. 3. (Необязательно) В случае…
Модальности:
Генерация текста
Области применения:
Диалог / чат
Задача: Генерация текста
Автор: LGAI-EXAONE
Теги: gguf, lg-ai, exaone, exaone-deep, en, ko, endpoints_compatible, conversational
Лайков: 45 | Загрузок: 176
Описание основано на материалах HuggingFace. Перевод выполнен автоматически.
