LFM2.5 — это новое семейство гибридных моделей, предназначенных для развертывания на устройстве. Он основан на архитектуре LFM2 с расширенным предварительным обучением и обучением с подкреплением. LFM2.5-1.2B-Base — это предварительно обученная текстовая контрольная точка, используемая для создания всех вариантов LFM2.5-1.2B. Он имеет следующие особенности: — Количество параметров: 1,17B — Количество слоев: 16 (10 двойных блоков свертки LIV + 6 блоков GQA) — Бюджет обучения: 28T токенов — Длина контекста: 32 768 токенов — Размер словаря: 65 536 — Ограничение знаний: середина 2024 г. — Языки: английский, арабский, китайский, французский, немецкий, японский, корейский, испанский предварительно обученная контрольная точка рекомендуется только для задач, требующих тщательной тонкой настройки, таких как ассистенты, специфичные для конкретного языка (например, японский) или предметной области (например, медицина), обучение на собственных данных или экспериментирование с новыми подходами после обучения. LFM2.5 поддерживается многими платформами вывода. Полный список см. в документации Inference. Мы рекомендуем настроить LFM2.5 для вашего конкретного случая использования, чтобы добиться наилучших результатов. По вопросам корпоративных решений и периферийного развертывания обращайтесь по адресу sales@liquid.ai.
Модальности:
Генерация текста
Области применения:
Диалог / чат
Задача: Генерация текста
Автор: LiquidAI
Теги: lfm2, liquid, lfm2.5, edge, conversational, en, ar, zh
Лайков: 116 | Загрузок: 34,691
Описание основано на материалах HuggingFace. Перевод выполнен автоматически.
