Мою «поваренную книгу» Jupyter для воспроизведения этой методологии можно найти здесь, скоро появится улучшенная библиотека. Это мета-лама/Мета-Ллама-3-8B-Instruct с ортогональными весами безопасных тензоров bfloat16, созданными с помощью усовершенствованной методологии, основанной на том, что было описано в предварительном документе/сообщении в блоге: «Отказ в LLM опосредован одним направлением», который я рекомендую вам прочитать, чтобы понять больше. TL;DR: В этой модели были изменены определенные веса, чтобы «подавить» способность модели выражать отказ. Ни в коем случае не гарантируется, что он не откажет вам, не поймет вашу просьбу, может по-прежнему читать вам лекции об этике/безопасности и т. д. Во всем остальном он настроен так же, как и исходная модель инструкций 70B, только с ортогональными наиболее сильными направлениями отказа. TL;TL;DR;DR: Это без цензуры в самой чистой форме, которую я могу себе представить — никакого нового или измененного поведения в каком-либо другом отношении по сравнению с исходной моделью. Что касается «аблитерации»: это просто забавная игра слов с использованием оригинального термина «абляция», использованного в оригинальной статье для обозначения удаления функций, которое я придумал специально, чтобы отличить модель от «нецензурированных» точных настроек. Уничтожить + уничтожить = Уничтожить В любом случае…
Модальности:
Генерация текста
Области применения:
Диалог / чат Следование инструкциям
Задача: Генерация текста
Автор: failspy
Теги: llama, conversational, text-generation-inference, endpoints_compatible
Лайков: 61 | Загрузок: 10,039
Описание основано на материалах HuggingFace. Перевод выполнен автоматически.
