В качестве базовой модели я использовал совместимую с Llama модель chargoddard/Yi-34B-Llama. Новыми функциями в версии 2.2 являются разговор и эмпатия. Благодаря внедрению тщательно отобранных элементов Samantha и WizardLM Dolphin теперь может давать вам персональные советы и проявлять заботу о ваших чувствах, а также обладает дополнительной подготовкой для ведения длительных многоходовых диалогов. Эта модель не подвергается цензуре. Я отфильтровал набор данных, чтобы устранить согласованность и предвзятость. Это делает модель более соответствующей требованиям. Рекомендуется реализовать собственный уровень согласования, прежде чем предоставлять модель в качестве сервиса. Она будет в высшей степени соответствовать любым запросам, даже неэтичным. Пожалуйста, ознакомьтесь с моим постом в блоге о моделях без цензуры. https://erichartford.com/uncensored-models Вы несете ответственность за любой контент, создаваемый с использованием этой модели. Используйте с ответственностью. This dataset is Dolphin, an open-source implementation of Microsoft’s Orca I modified the dataset for uncensoring, deduping, cleaning, and quality. I added Jon Durbin’s excellent Airoboros dataset to increase creativity. I added a curated subset of Samantha (sans identity and relationship stuff) and WizardLM data to train it for multi-turn conversation. It took 3 days to train 3 epochs on 4x A100s using qLoRA and Axolotl Prompt…
Модальности:
Генерация текста
Задача: Генерация текста
Автор: LoneStriker
Теги: llama, en, text-generation-inference, endpoints_compatible
Лайков: 2 | Загрузок: 6
Описание основано на материалах HuggingFace. Перевод выполнен автоматически.