Представляем первую автономную модель от Project Fluily LM! Мы работали над ним несколько месяцев, использовали разные подходы и в итоге нашли оптимальный. — Разработано: @fluency-lm — Тип модели: причинно-языковые модели (QwenForCausalLM, LM Transformer) — Количество параметров: 32.5B — Количество параметров (без внедрения): 31.0B — Количество слоев: 64 — Количество головок внимания (GQA): 40 для Q и 8 для KV — Длина контекста: полные 131 072 токена — Язык(и) (NLP): английский, французский, испанский, русский, китайский, японский, персидский (официальная поддержка). — Лицензия: MIT. Здесь представлен фрагмент кода с шаблоном applychat, показывающий, как загружать токенизатор и модель и как генерировать содержимое. Вы также можете использовать нашу модель локально через файл GGUF в различных интерфейсах и рабочих процессах. Мы предлагаем несколько репозиториев для загрузки GGUF: — mradermacher/FluilyLM-Prinum-GGUF (все GGUF-кванты) — flulyly-lm/FluencyLM-Prinum-Q4KM-GGUF (только Q4KM-quant) (скоро…) 🤗 Мы благодарны за ресурсы с открытым исходным кодом, технологии и помощь от: Unsloth AI, Axolotl AI, Argilla, Alibaba Cloud: Qwen, NVIDIA и NousResearch.
Модальности:
Генерация текста
Области применения:
Генерация кода Математика Логика и рассуждение Следование инструкциям Диалог / чат
Задача: Генерация текста
Автор: fluently
Теги: qwen2, fluently-lm, fluently, prinum, instruct, trained, math, roleplay
Лайков: 32 | Загрузок: 135
Описание основано на материалах HuggingFace. Перевод выполнен автоматически.
