0. TL;DR 1. Подробности модели 2. Подробности обучения 3. Использование 4. Оценка 5. Цитирование — Разработано: https://www.tii.ae — Тип модели: Только причинный декодер — Архитектура: Гибридные трансформаторы + архитектура Mamba — Язык(и) (NLP): Английский — Количество параметров: 90M — Лицензия: Лицензия Falcon-LLM Для получения более подробной информации о протоколе обучения этой модели см. Технический блог Falcon-H1-Tiny. В настоящее время для использования этой модели вы можете положиться на преобразователи Hugging Face, vLLM, sglang, llama.cpp, ollama или библиотеку mlx. Обратитесь к фрагменту ниже, чтобы запустить модели H1 с использованием 🤗 преобразователей: Вы можете найти все файлы GGUF, совместимые с llama.cpp, в разделе [наша официальная коллекция]() — пример настройки может быть таким: Для vLLM просто запустите сервер, выполнив приведенную ниже команду: Для подробной оценки серии Falcon-H1-Tiny обратитесь к нашему техническому блогу — просмотрите наш блог о выпуске. — Не стесняйтесь присоединяться к нашему серверу разногласий, если у вас есть какие-либо вопросы или вы можете пообщаться с нашими исследователями и разработчиками. Если семейство моделей Falcon-H1-Tiny помогло вам в работе, дайте нам ссылку.
Модальности:
Генерация текста
Области применения:
Диалог / чат
Задача: Генерация текста
Автор: tiiuae
Теги: falcon_h1, falcon-h1, edge, conversational, endpoints_compatible
Лайков: 26 | Загрузок: 273
Описание основано на материалах HuggingFace. Перевод выполнен автоматически.