🎉 Лицензия обновлена! Мы рады сообщить о наших более гибких условиях лицензирования 🤗 ✈️ Попробуйте FriendliAI (лицензия для коммерческих целей) 📢 EXAONE 4.0 официально поддерживается трансформерами HuggingFace! Пожалуйста, ознакомьтесь с руководством ниже. Мы представляем EXAONE 4.0, который объединяет режимы «без рассуждения» и «режим рассуждения», что обеспечивает как превосходное удобство использования EXAONE 3.5, так и расширенные возможности рассуждения EXAONE Deep. Чтобы проложить путь к эре агентного искусственного интеллекта, EXAONE 4.0 включает в себя такие важные функции, как использование агентных инструментов, а его многоязычные возможности расширены для поддержки испанского языка в дополнение к английскому и корейскому. Серия моделей EXAONE 4.0 состоит из двух типоразмеров: модели 32B среднего размера, оптимизированной для высокой производительности, и модели 1,2B небольшого размера, предназначенной для приложений на устройстве. В архитектуре EXAONE 4.0 мы применяем новые архитектурные изменения по сравнению с предыдущими моделями EXAONE, как показано ниже: 1. Гибридное внимание: для модели 32B мы применяем гибридную схему внимания, которая сочетает в себе локальное внимание (внимание со скользящим окном) и глобальное внимание (полное внимание) в соотношении 3:1. Мы не используем RoPE (вращающееся позиционное встраивание) для глобального внимания для лучшего глобального…
Модальности:
Генерация текста
Области применения:
Диалог / чат
Задача: Генерация текста
Автор: LGAI-EXAONE
Теги: exaone4, lg-ai, exaone, exaone-4.0, conversational, en, ko, es
Лайков: 12 | Загрузок: 14,805
Описание основано на материалах HuggingFace. Перевод выполнен автоматически.
