В этом репозитории представлена Falcon-H1R-7B, специализированная модель рассуждений, представленная в документе Falcon-H1R: расширяя границы рассуждения с помощью гибридной модели для эффективного масштабирования времени тестирования. Построенный на базе Falcon-H1-7B-Base, он был обучен посредством контролируемой точной настройки при холодном запуске с длинными трассировками рассуждений и дополнительно усовершенствован за счет масштабирования RL с помощью GRPO. Модель демонстрирует выдающуюся производительность в различных тестах, включая математику, программирование, выполнение инструкций и общую логику. — Разработано: Институт технологических инноваций. — Тип модели: только причинный декодер. — Архитектура: гибридная архитектура (трансформеры + Mamba2). — Язык(и): английский, многоязычный. — Лицензия: лицензия Falcon-LLM. Более подробную информацию о протоколе обучения этой модели можно найти в техническом блоге Falcon-H1R и техническом отчете. Мы рекомендуем использовать температуру 0,6 и top-p 0,95 с максимальным количеством новых токенов до 65536. Для поддерживаемых платформ вы можете настроить параметры повторения и присутствия, чтобы уменьшить бесконечные повторения. Falcon-H1R достигает самых современных результатов в тестовых тестах. Категория Эталонный образец Falcon-H1R-7B Qwen3-8B…
Модальности:
Генерация текста
Области применения:
Диалог / чат
Задача: Генерация текста
Автор: tiiuae
Теги: gguf, falcon-h1r, en, endpoints_compatible, conversational
Лайков: 70 | Загрузок: 2,452
Описание основано на материалах HuggingFace. Перевод выполнен автоматически.
