Мою «поваренную книгу» Jupyter для воспроизведения этой методологии можно найти здесь, скоро появится улучшенная библиотека. Мне потребовалось некоторое время, чтобы создать ее. Давненько я не выпускал модель Phi-3. Раньше я случайно пропустил элемент, необходимый в процессе выпуска модели — тестирование галлюцинаций. Эта модель была протестирована, и, хотя, по моему опыту, у нее больше шансов вызвать галлюцинации, чем у оригинальной модели, в целом она так же стабильна, как и оригинал. Теперь, когда вышли новые модели Фи-3, я работаю над быстрым завершением процесса удаления, а затем выпущу другие модели как можно скорее. 🏇 Это инструкция microsoft/Phi-3-medium-4k-instruct с ортогональными весами безопасного тензора bfloat16, созданная с использованием усовершенствованной методологии, основанной на том, что было описано в предварительном документе/сообщении блога: «Отказ в LLM опосредован одним направлением», который я рекомендую вам прочитать, чтобы понять больше. TL;DR: В этой модели были изменены определенные веса, чтобы «подавить» способность модели выражать отказ. Ни в коем случае не гарантируется, что он вам не откажет, поймет вашу просьбу, может еще прочитать вам лекцию об этике/безопасности и т. д. Во всем остальном он настроен так же, как и…
Модальности:
Генерация текста
Области применения:
Генерация кода Диалог / чат Мультиязычность Следование инструкциям
Задача: Генерация текста
Автор: failspy
Теги: phi3, nlp, code, conversational, custom_code, multilingual, text-generation-inference, endpoints_compatible
Лайков: 24 | Загрузок: 200
Описание основано на материалах HuggingFace. Перевод выполнен автоматически.
