0. TL;DR 1. Сведения о модели 2. Подробности обучения 3. Использование 4. Оценка 5. Цитирование — Разработчик: https://www.tii.ae — Тип модели: Только причинный декодер / Базовая версия — Архитектура: Pure-transformer — 1,58-битная версия — Язык(и) (NLP): Английский — Лицензия: Лицензия Falcon-LLM Для получения более подробной информации о протоколе обучения этой модели см. Технический блог о Falcon-E. В настоящее время для использования этой модели вы можете использовать библиотеку преобразователей Hugging Face или библиотеку BitNet. Существует несколько способов взаимодействия с моделью в зависимости от целевого использования. Для каждой модели серии Falcon-E у вас есть три варианта: модель BitNet, предварительно квантованная контрольная точка для точной настройки и версия модели BitNet bfloat16. Если вы хотите выполнить вывод при запуске контрольной точки BitNet: Если вы предпочитаете использовать классическую версию bfloat16, вы можете запустить: Для точной настройки модели вам следует загрузить предварительно квантованную версию модели и использовать пакет Python onebitllms: В следующей таблице мы сообщаем о наших внутренних тестах конвейера: Обратите внимание, что результаты оценки представляют собой нормализованные оценки из предыдущих задач Hugging Face Leaderboard v2 — см. сообщение в нашем блоге о выпуске. — Учиться…
Модальности:
Генерация текста
Области применения:
Диалог / чат Следование инструкциям
Задача: Генерация текста
Автор: tiiuae
Теги: llama, bitnet, falcon-e, edge, conversational, text-generation-inference, endpoints_compatible, 8-bit
Лайков: 37 | Загрузок: 570
Описание основано на материалах HuggingFace. Перевод выполнен автоматически.
