Ардити и др. продемонстрировали в своем сообщении в блоге, что отказ в LLM обусловлен одним направлением остаточного потока. Они обнаружили, что предотвращение представления модели в этом направлении может позволить ей ответить на вредные вопросы. Для более глубокого понимания этой концепции вы можете обратиться к статье Максима Лабонна по этой теме. Чтобы заставить модель отвечать на турецком языке, были созданы параллельные инструкции с использованием подмножества stackexchange набора данных LIMA. Затем эти инструкции были переведены на турецкий язык с добавлением дополнительного предложения во время выполнения, побуждающего модель отвечать на турецком языке. Вы можете найти наборы данных, использованные в этом эксперименте, по следующим ссылкам: 1. https://huggingface.co/datasets/Metin/abliterationen 2. https://huggingface.co/datasets/Metin/abliterationtr LLaMA-3-8B-Instruct-Abliterated-TR — это удаленная версия Meta-LLaMA-3-8B-Instruct. Для определения разницы средних значений между активациями было использовано 40 образцов. — Слой 7 выбран как слой с наиболее потенциальным тюркоязычным направлением. — MMLUTRV0.2: 49,08% — TruthfulQATRV0.2: 49,62% — ARCTRV0.2: 43,77% — HellaSwagTRV0.2: 44,86% — GSM8KTRV0.2: 53,23% — WinograndeTRV0.2:…
Модальности:
Генерация текста
Области применения:
Диалог / чат Следование инструкциям
Задача: Генерация текста
Автор: Metin
Теги: llama, conversational, tr, model-index, text-generation-inference, endpoints_compatible
Лайков: 5 | Загрузок: 5
Описание основано на материалах HuggingFace. Перевод выполнен автоматически.
