LoneStriker/tulu-2-dpo-70b-5.0bpw-h6-exl2 - Каталог нейросетей
Генерация текста

LoneStriker/tulu-2-dpo-70b-5.0bpw-h6-exl2

Добавлено:

Tulu — это серия языковых моделей, обученных выполнять функции полезных помощников. Tulu V2 DPO 70B — это доработанная версия Llama 2, которая была обучена на комбинации общедоступных, синтетических и созданных человеком наборов данных с использованием прямой оптимизации предпочтений (DPO). Эта модель является достойной альтернативой Llama 2 70b Chat. Для получения дополнительной информации ознакомьтесь со статьей: «Верблюды в меняющемся климате: улучшение адаптации ЯМ с помощью Tulu 2 ». — Тип модели: флагманская модель из набора чат-моделей, оптимизированных с помощью инструкций и обучения с подкреплением на основе человеческой обратной связи (RLHF), на основе комбинации общедоступных, синтетических и созданных человеком наборов данных. — Язык(и) (обработка естественного языка): в основном английский — Лицензия: лицензия AI2 ImpACT с низким уровнем риска. — Дообучено на основе модели: meta-llama/Llama-2-70b-hf — Репозиторий: https://github.com/allenai/open-instruct — Рецепт DPO: Рецепт DPO взят из модели Zephyr Beta — Семейство моделей: Другие модели и набор данных находятся в коллекции Tulu V2. Модель обучена использовать следующий формат (обратите внимание на переносы строк): для достижения наилучших результатов форматируйте все входные данные таким образом. Обязательно ставьте перевод строки после , это может существенно повлиять на качество генерации. Первоначально модель была дообучена на отфильтрованном и предварительно обработанном наборе данных Tulu V2 mix…

Модальности:
Генерация текста


Задача: Генерация текста
Автор: LoneStriker
Теги: llama, en, text-generation-inference, endpoints_compatible
Лайков: 2  |  Загрузок: 6

Открыть на HuggingFace →

Описание основано на материалах HuggingFace. Перевод выполнен автоматически.