0. TL;DR 1. Детали модели 2. Детали обучения 3. Использование 4. Оценка 5. Citation — Developed by: https://www.tii.ae — Model type: Causal decoder-only — Architecture: Hybrid Transformers Mamba architecture — Language(s) (NLP): English — Number of Parameters: 90M — License: Falcon-LLM License For more details about the training protocol of this model, please see the Falcon-H1-Tiny technical blogpost. В настоящее время для использования этой модели вы можете использовать трансформаторы Hugging Face, vLLM, sglang, llama.cpp, ollama или библиотеку mlx. Обратитесь к приведенному ниже фрагменту для запуска моделей H1 с использованием 🤗 трансформаторов: Вы можете найти все файлы GGUF, совместимые с llama.cpp, в [нашей официальной коллекции]() — пример настройки может быть следующим: Для vLLM просто запустите сервер, выполнив приведенную ниже команду: Для подробной оценки серии Falcon-H1-Tiny, пожалуйста, обратитесь к нашему техническому блогу — Посмотреть наш блогпост о выпуске. — Не стесняйтесь присоединяться к нашему серверу Discord, если у вас есть какие-либо вопросы или вы можете взаимодействовать с нашими исследователями и разработчиками. Если семейство моделей Falcon-H1-Tiny было полезным для вашей работы, не стесняйтесь давать нам цитату.
Модальности:
Генерация текста
Области применения:
Диалог / чат Следование инструкциям
Задача: Генерация текста
Автор: tiiuae
Теги: falcon_h1, falcon-h1, edge, conversational, endpoints_compatible
Лайков: 3 | Загрузок: 298
Описание основано на материалах HuggingFace. Перевод выполнен автоматически.
