Falcon-180B-Chat — это модель причинного декодера с параметрами 180B, созданная TII на основе Falcon-180B и настроенная на смесь Ultrachat, Platypus и Airoboros. Он доступен в соответствии с лицензией Falcon-180B TII и политикой допустимого использования. 🤗 Чтобы начать работу с Falcon (вывод, точная настройка, квантование и т. д.), мы рекомендуем прочитать этот замечательный пост в блоге от HF или этот из выпуска 40B! Обратите внимание: поскольку 180B больше, чем можно легко обработать с помощью преобразователей + ускорения, мы рекомендуем использовать вывод генерации текста. Вам понадобится не менее 400 ГБ памяти, чтобы быстро выполнить вывод с помощью Falcon-180B. ✨ Вы ищете готовую модель чата/инструктажа на базе Falcon-180B. Это лучшая модель открытого доступа, доступная в настоящее время, и одна из лучших моделей в целом. Falcon-180B превосходит LLaMA-2, StableLM, RedPajama, MPT и т. д. См. таблицу лидеров OpenLLM. Он имеет архитектуру, оптимизированную для вывода, с поддержкой нескольких запросов (Shazeer et al., 2019). Он доступен по разрешительной лицензии, позволяющей коммерческое использование. 💬 Это модель чата, которая может не подойти для дальнейшей тонкой настройки. Если вы заинтересованы в создании собственного инструктажа/чата…
Модальности:
Генерация текста
Области применения:
Диалог / чат
Задача: Генерация текста
Автор: tiiuae
Теги: falcon, conversational, en, de, es, fr, text-generation-inference
Лайков: 545 | Загрузок: 83
Описание основано на материалах HuggingFace. Перевод выполнен автоматически.
