unsloth/LFM2-8B-A1B-GGUF - Каталог нейросетей
Генерация текста

unsloth/LFM2-8B-A1B-GGUF

Добавлено:
unsloth/LFM2-8B-A1B-GGUF

> [!NOTE] > Включает исправления шаблона чата Unsloth! Для llama.cpp используйте —jinja > Unsloth Dynamic 2.0 обеспечивает превосходную точность и превосходит другие ведущие количественные показатели. LFM2 — это новое поколение гибридных моделей, разработанное Liquid AI и специально предназначенное для периферийного ИИ и развертывания на устройствах. Он устанавливает новый стандарт с точки зрения качества, скорости и эффективности памяти. Мы публикуем веса нашего первого MoE на основе LFM2 с 8,3 млрд общих параметров и 1,5 млрд активных параметров. — LFM2-8B-A1B — лучший на устройстве MoE как по качеству (сравним с плотными моделями 3-4B), так и по скорости (быстрее, чем Qwen3-1.7B). — Возможности кода и знаний значительно улучшены по сравнению с LFM2-2.6B. — Квантовые варианты удобно подходят для телефонов, планшетов и ноутбуков высокого класса. Из-за их небольшого размера мы рекомендуем проводить тонкую настройку моделей LFM2 для узких случаев использования, чтобы максимизировать производительность. Они особенно подходят для агентских задач, извлечения данных, RAG, творческого письма и многоходовых разговоров. Однако мы не рекомендуем использовать их для задач, требующих знаний или навыков программирования. Поддерживаемые языки: английский, арабский, китайский, французский, немецкий, японский, корейский и…

Модальности:
Генерация текста

Области применения:
Диалог / чат


Задача: Генерация текста
Автор: unsloth
Теги: gguf, liquid, unsloth, lfm2, edge, moe, en, ar
Лайков: 51  |  Загрузок: 5,750

Открыть на HuggingFace →

Описание основано на материалах HuggingFace. Перевод выполнен автоматически.