имя библиотеки: лицензия на трансформаторы: другое имя лицензии: mnpl License_link: https://mistral.ai/licences/MNPL-0.1.md теги: — язык кода: — код Мою оригинальную «поваренную книгу» Jupyter для репликации методологии можно найти здесь Моя личная библиотека используемого кода (в незавершенном исполнении, в поисках улучшения и обобщения) Это mistralai/Codestral-22B-v0.1 с ортогональным bfloat16 веса Safetensor, сгенерированные с использованием усовершенствованной методологии, основанной на том, что было описано в предварительном документе/сообщении в блоге: «Отказ в LLM опосредован одним направлением», который я рекомендую вам прочитать, чтобы понять больше. Спасибо Bullerwins за перезалив оригинальной модели в HF-виде. TL;DR: В этой модели были изменены определенные веса, чтобы «подавить» способность модели выражать отказ. Ни в коем случае не гарантируется, что он вам не откажет, поймет вашу просьбу, еще может читать вам лекции по этике/безопасности и т. д. Во всем остальном он настроен так же, как и исходная модель 22В, только с ортогональными наиболее сильными направлениями отказа. TL;TL;DR;DR: Это без цензуры в самой чистой форме, которую я могу себе представить — никакого нового или измененного поведения в каком-либо другом отношении по сравнению с исходной моделью. Что касается «аблитерации»:…
Модальности:
Генерация текста
Области применения:
Генерация кода
Задача: Генерация текста
Автор: failspy
Теги: mistral, code, text-generation-inference, endpoints_compatible
Лайков: 12 | Загрузок: 8,258
Описание основано на материалах HuggingFace. Перевод выполнен автоматически.
