Репозиторий GitHub • Онлайн-демо • Discord • Twitter • Huggingface • Paper 🔥 Первая модель 7B достигает сопоставимых результатов с ChatGPT (март)! 🔥 🤖 Модель № 1 с открытым исходным кодом на MT-bench с рейтингом 7,81, что превосходит модели 70B 🤖 OpenChat — это инновационная библиотека языковых моделей с открытым исходным кодом, доработанная с помощью C-RLFT — стратегии, основанной на автономном обучении с подкреплением. Наши модели обучаются на данных разного качества без меток предпочтений, обеспечивая исключительную производительность на уровне ChatGPT, даже с моделью 7B. Несмотря на наш простой подход, мы стремимся разработать высокопроизводительную, коммерчески жизнеспособную модель большого языка с открытым исходным кодом и продолжаем добиваться значительных успехов в достижении этой цели. Чтобы использовать эту модель, мы настоятельно рекомендуем установить пакет OpenChat, следуя руководству по установке в нашем репозитории, и использовать OpenChat OpenAI-совместимый API-сервер, выполнив команду обслуживания из таблицы ниже. Сервер оптимизирован для высокопроизводительного развертывания с использованием vLLM и может работать на потребительском графическом процессоре с 24 ГБ ОЗУ. Чтобы включить тензорный параллелизм, добавьте —tensor-parallel-size N к обслуживающей команде. После запуска сервер прослушивает запросы на localhost:18888…
Модальности:
Генерация текста
Области применения:
Диалог / чат
Задача: Генерация текста
Автор: openchat
Теги: mistral, openchat, C-RLFT, conversational, text-generation-inference, endpoints_compatible
Лайков: 1,140 | Загрузок: 2,692
Описание основано на материалах HuggingFace. Перевод выполнен автоматически.
