Еще одна экспериментальная модель, настроенная в основном на основе синтетических данных, полученных с помощью Airoboros, плюс дополнительный этап настройки с различными наборами данных DPO. Название этой модели — «лама-3-аироборос-дпо-70б-3.3», и она была построена на основе Ламы-3 от Меты. Это усовершенствованная версия llama-3-70b-instruct, в которой используется шаблон чата с инструкциями lama-3. Модель, построенная на наборе данных airoboros вместе с несколькими друзьями: — https://huggingface.co/datasets/bluemoon-fandom-1-1-rp-cleaned — https://huggingface.co/datasets/boolq — https://huggingface.co/datasets/jondurbin/gutenberg-dpo-v0.1 — https://huggingface.co/datasets/LDJnr/Capybara — https://huggingface.co/datasets/jondurbin/cinematika-v0.1 — https://huggingface.co/datasets/glaiveai/glaive-function-calling-v2 — https://huggingface.co/datasets/grimulkan/LimaRP-augmented — https://huggingface.co/datasets/piqa — https://huggingface.co/datasets/Vezora/Tested-22k-Python-Alpaca — https://huggingface.co/datasets/mattpscott/airoboros-summarization — https://huggingface.co/datasets/unalignment/токсичный-dpo-v0.2 Эта модель использует инструкцию llama-3 шаблон приглашения и предоставляется в конфигурации токенизатора. Вы можете использовать метод applychattemplate для точного форматирования…
Модальности:
Генерация текста
Области применения:
Диалог / чат
Задача: Генерация текста
Автор: jondurbin
Теги: llama, llama-3, conversational, text-generation-inference, endpoints_compatible
Лайков: 6 | Загрузок: 7,967
Описание основано на материалах HuggingFace. Перевод выполнен автоматически.
