> LiquidAI/LFM2-2.6B-Exp — это экспериментальная языковая модель с 2,6 миллиардами параметров из серии LFM2, отличающаяся новой гибридной архитектурой, которая сочетает в себе 10 двойных блоков свертки ближнего действия с 6 блоками группового внимания к запросам (GQA) для превосходной эффективности в периферийном искусственном интеллекте и развертывании на устройстве, обеспечивая в 3 раза более быстрое обучение, в 2 раза более быстрое декодирование / предварительное заполнение ЦП, чем Qwen3, и максимальную производительность, такую как 82,41% по математическим рассуждениям GSM8K и 79,56% по следованию инструкциям IFEval, что превосходит более крупные модели, такие как Llama 3.2-3B-Instruct и Gemma-3-4b-it. Оптимизированный для многоязычной поддержки (английский, арабский, китайский, французский, немецкий, японский, корейский, испанский) с контекстным окном на 32 КБ, он использует архитектуру Lfm2ForCausalLM под лицензией LFM1.0, что позволяет генерировать диалоговый текст на устройствах с ограниченными ресурсами, таких как смартфоны, ноутбуки или автомобили через трансформаторы с низкими требованиями к кэш-памяти KV. Эта контрольная точка после обучения устанавливает новые стандарты качества, скорости и эффективности памяти для реальных приложений искусственного интеллекта на центральных, графических и NPU. (отсортировано по размеру, не обязательно по качеству. Количественные измерения IQ часто предпочтительнее количественных показателей, не связанных с IQ) Вот удобный график, составленный…
Модальности:
Генерация текста
Области применения:
Диалог / чат
Задача: Генерация текста
Автор: prithivMLmods
Теги: gguf, lfm2, text-generation-inference, llama.cpp, en, ar, zh, fr
Лайков: 5 | Загрузок: 82
Описание основано на материалах HuggingFace. Перевод выполнен автоматически.
