0. TL;DR 1. Подробности модели 2. Подробности обучения 3. Использование 4. Оценка 5. Цитирование — Разработано: https://www.tii.ae — Тип модели: Только причинный декодер — Архитектура: Гибридные трансформаторы + архитектура Mamba — Язык(и) (NLP): Английский, многоязычный — Лицензия: Лицензия Falcon-LLM Для получения более подробной информации о протоколе обучения этой модели см. Falcon-H1 технический блог и технический отчет. В настоящее время для использования этой модели вы можете использовать преобразователи Hugging Face, vLLM или нашу специальную версию библиотеки llama.cpp. Обязательно установите последнюю версию преобразователей или vllm, а затем установите эти пакеты из исходного кода: дополнительные сведения о сборке vLLM из исходного кода см. в официальной документации vLLM. Обратитесь к фрагменту ниже, чтобы запустить модели H1 с использованием преобразователей 🤗: Для vLLM просто запустите сервер, выполнив приведенную ниже команду: Наша архитектура интегрирована в последние версии llama.cpp: https://github.com/ggml-org/llama.cpp — вы можете использовать наши официальные файлы GGUF непосредственно с llama.cpp Серия Falcon-H1 очень хорошо справляется с различными задачами, включая задачи рассуждения. Более подробную информацию вы можете найти в нашем блоге о выпуске, подробно…
Модальности:
Генерация текста
Области применения:
Диалог / чат Следование инструкциям
Задача: Генерация текста
Автор: tiiuae
Теги: gguf, falcon-h1, ar, cs, de, en, es, fr
Лайков: 14 | Загрузок: 743
Описание основано на материалах HuggingFace. Перевод выполнен автоматически.
