В качестве базовой модели я использовал совместимую с ламой chargoddard/Yi-34B-Llama. Новое в версии 2.2 — это разговор и сочувствие. Благодаря внедрению кураторской ДНК Саманты и WizardLM, Дельфин теперь может давать вам личные советы и заботиться о ваших чувствах, а также проходит дополнительную подготовку в длительном многоходовом разговоре. Эта модель без цензуры. Я отфильтровал набор данных, чтобы удалить выравнивание и предвзятость. Это делает модель более совместимой. Прежде чем предоставлять модель как услугу, рекомендуется реализовать собственный уровень выравнивания. Он будет в высшей степени отзывчив на любые просьбы, даже неэтичные. Пожалуйста, прочитайте мой пост в блоге о моделях без цензуры. https://erichartford.com/uncensored-models Вы несете ответственность за любой контент, который вы создаете с использованием этой модели. Наслаждайтесь ответственно. Этот набор данных — Dolphin, реализация Microsoft Orca с открытым исходным кодом. Я модифицировал набор данных для устранения цензуры, дедупликации, очистки и качества. Я добавил превосходный набор данных Airoboros Джона Дурбина, чтобы повысить креативность. Я добавил тщательно подобранное подмножество Саманты (без информации о личности и отношениях) и данные WizardLM, чтобы обучить ее многоходовому диалогу. Обучение 3 эпох на 4х A100 с использованием qLoRA и Axolotl Prompt заняло 3 дня…
Модальности:
Генерация текста
Области применения:
Диалог / чат
Задача: Генерация текста
Автор: dphn
Теги: llama, conversational, en, text-generation-inference, endpoints_compatible
Лайков: 92 | Загрузок: 12
Описание основано на материалах HuggingFace. Перевод выполнен автоматически.
