На этой карточке модели описана модель Llama-3-8B-Instruct-abliterated-v2, которая представляет собой ортогональную версию модели мета-ламы/Llama-3-8B-Instruct и является усовершенствованием модели Llama-3-8B-Instruct-abliterated предыдущего поколения. В этом варианте были изменены определенные веса, чтобы ограничить способность модели выражать отказ. Модель была обучена на большем количестве данных, чтобы лучше определить «направление отказа». Эта модель НАМНОГО лучше прямо и лаконично отвечает на запросы, не делая даже никаких заявлений об отказе от ответственности. Методология, использованная для создания этой модели, описана в предварительном документе/сообщении в блоге: «Отказ в программах LLM опосредован одним направлением». Эта модель может иметь интересные особенности, поскольку методология все еще новая и непроверенная. Код, использованный для создания модели, доступен в блокноте Python orth_cookbook.ipynb. Обратите внимание, что модель может по-прежнему отказываться отвечать на определенные запросы даже после того, как веса были изменены для предотвращения отказа. Эта модель доступна для использования в библиотеке Трансформеров. Количественные данные GGUF доступны здесь.
Модальности:
Генерация текста
Области применения:
Диалог / чат Следование инструкциям
Задача: Генерация текста
Автор: QuixiAI
Теги: llama, conversational, text-generation-inference, endpoints_compatible
Лайков: 29 | Загрузок: 7,840
Описание основано на материалах HuggingFace. Перевод выполнен автоматически.
