LFM2.5 — это новое семейство гибридных моделей, предназначенных для развертывания на устройстве. Он основан на архитектуре LFM2 с расширенным предварительным обучением и обучением с подкреплением. — Лучшая в своем классе производительность: модель 350M конкурирует с гораздо более крупными моделями, предлагая высококачественный искусственный интеллект в вашем кармане. — Быстрый вывод границ: скорость декодирования 313 ток/с на процессоре AMD, 188 ток/с на Snapdragon Gen4. Работает менее 1 ГБ памяти с поддержкой llama.cpp, MLX и vLLM с первого дня. — Масштабированное обучение: расширенное предварительное обучение с токенов 10T до 28T и крупномасштабное многоэтапное обучение с подкреплением.  LFM2.5-350M — это текстовая модель общего назначения со следующими характеристиками: — Количество параметров: 350M — Количество слоев: 16 (10 блоков свертки LIV с двойными воротами + 6 блоков GQA) — Бюджет обучения: 28T токенов — Длина контекста: 32 768 токенов — Размер словарного запаса: 65 536 — Ограничение знаний: середина 2024 г. — Языки: английский, арабский, китайский, французский, немецкий, японский, корейский, португальский, испанский — Параметры генерации: — температура: 0,1 — топк: 50 — повторение пенальти: 1.05 Мы рекомендуем использовать его для извлечения данных, структурированных…
Модальности:
Генерация текста
Области применения:
Диалог / чат
Задача: Генерация текста
Автор: onnx-community
Теги: transformers.js, onnx, lfm2, liquid, lfm2.5, edge, conversational, en
Лайков: 5 | Загрузок: 1,510
Описание основано на материалах HuggingFace. Перевод выполнен автоматически.
