LFM2.5 — это новое семейство гибридных моделей, предназначенных для развертывания на устройстве. Он основан на архитектуре LFM2 с расширенным предварительным обучением и обучением с подкреплением. — Лучшая в своем классе производительность: модель 1.2B конкурирует с гораздо более крупными моделями, предлагая высококачественный искусственный интеллект в вашем кармане. — Быстрый вывод границ: декодирование 239 ток/с на процессоре AMD, 82 ток/с на мобильном NPU. Работает менее 1 ГБ памяти с поддержкой llama.cpp, MLX и vLLM с первого дня. — Масштабированное обучение: расширенное предварительное обучение с токенов 10T до 28T и крупномасштабное многоэтапное обучение с подкреплением. LFM2.5-1.2B-Instruct — это универсальная текстовая модель со следующими характеристиками: — Количество параметров: 1,17B — Количество слоев: 16 (10 блоков свертки LIV с двойными воротами + 6 блоков GQA) — Бюджет обучения: 28T токенов — Длина контекста: 32 768 токенов — Размер словаря: 65 536 — Ограничение знаний: Середина 2024 г. — Языки: английский, арабский, китайский, французский, немецкий, японский, корейский, испанский — Параметры генерации: — температура: 0,1 — топк: 50 — штраф за повторение: 1,05. Мы рекомендуем использовать его для агентских задач, извлечения данных и RAG. Не рекомендуется для наукоемких задач и программирования. LFM2.5 использует формат, подобный ChatML. Посмотрите…
Модальности:
Генерация текста
Области применения:
Диалог / чат Следование инструкциям
Задача: Генерация текста
Автор: LiquidAI
Теги: lfm2, liquid, lfm2.5, edge, conversational, en, ar, zh
Лайков: 519 | Загрузок: 125,558
Описание основано на материалах HuggingFace. Перевод выполнен автоматически.
