Мою оригинальную «поваренную книгу» Jupyter для воспроизведения методологии можно найти здесь. Моя личная библиотека используемого кода (в стадии незавершенного производства, в поисках улучшения и обобщения). Это мета-лама/Мета-Лама-3-70B-Инструкция с ортогональными весами безопасных тензоров bfloat16, сгенерированная с помощью усовершенствованной методологии, основанной на той, которая была описана в предварительном документе/сообщении в блоге: «Отказ в LLM опосредован одним направлением», что я призываю вас читать, чтобы понять больше. Вторая попытка. Я чувствовал, что методология V3 70B не была хорошо применена, и u/Nexesenex на Reddit как бы подтвердили мои подозрения. Так иди и обвиняй их. 😛 Здесь изменен только один слой (!), и это, кажется, полностью устранило морализирующие отказы от ответственности. Надеюсь, вы найдете эту модель лучше, чем 70B-V3! Кроме того, это также исправляет токенизатор. TL;DR: В этой модели были изменены определенные веса, чтобы «подавить» способность модели выражать отказ. Ни в коем случае не гарантируется, что он не откажет вам, не поймет вашу просьбу, может по-прежнему читать вам лекции об этике/безопасности и т. д. Во всех остальных отношениях он настроен так же, как и исходная модель инструкций 70B, только с ортогональными наиболее сильными направлениями отказа.…
Модальности:
Генерация текста
Области применения:
Диалог / чат Следование инструкциям
Задача: Генерация текста
Автор: failspy
Теги: llama, conversational, text-generation-inference, endpoints_compatible
Лайков: 53 | Загрузок: 8,462
Описание основано на материалах HuggingFace. Перевод выполнен автоматически.
