Falcon-180B — это модель причинного декодера с 180 миллиардами параметров, созданная TII и обученная на 3500 миллиардах токенов RefinedWeb, дополненная тщательно подобранными корпусами. Он доступен в соответствии с лицензией Falcon-180B TII и политикой допустимого использования. 🤗 Чтобы начать работу с Falcon (вывод, точная настройка, квантование и т. д.), мы рекомендуем прочитать этот замечательный пост в блоге от HF или этот из выпуска 40B! Обратите внимание: поскольку 180B больше, чем можно легко обработать с помощью преобразователей + ускорения, мы рекомендуем использовать вывод генерации текста. Вам понадобится не менее 400 ГБ памяти, чтобы быстро выполнить вывод с помощью Falcon-180B. Это лучшая модель открытого доступа, доступная в настоящее время, и одна из лучших моделей в целом. Falcon-180B превосходит LLaMA-2, StableLM, RedPajama, MPT и т. д. См. таблицу лидеров OpenLLM. Он имеет архитектуру, оптимизированную для вывода, с поддержкой нескольких запросов (Shazeer et al., 2019). Он доступен по разрешительной лицензии, позволяющей коммерческое использование. ⚠️ Это сырая, предварительно обученная модель, которую необходимо дополнительно настроить для большинства случаев использования. Если вы ищете версию, лучше подходящую для получения общих инструкций в формате чата, мы рекомендуем взглянуть на…
Модальности:
Генерация текста
Задача: Генерация текста
Автор: tiiuae
Теги: falcon, en, de, es, fr, text-generation-inference
Лайков: 1,148 | Загрузок: 122
Описание основано на материалах HuggingFace. Перевод выполнен автоматически.
