Это слияние предварительно обученных языковых моделей, созданных с помощью mergekit. ПРЕДУПРЕЖДЕНИЕ: на самом деле есть причина для тега «не для всех аудиторий» на этом. Qwen2.5 был гораздо более подвержен цензуре отказа в первую очередь по сравнению с Mistral Nemo, но аблитерация корректирует это. (Они все еще, вероятно, более ханжеские. Очки человекоподобного стиля и успешное следование инструкциям на самом деле ни на что не указывают.) Учитывая, что они, по крайней мере, наполовину аблитерированы, я даже не могу обещать, что они откажутся с помощью защитной системы. (Я подозреваю, что они будут из-за заживления и реинтеграции базовой модели, но могут быть более подвержены джейлбрейку, чем полностью неповрежденные функции отказа.) Версия 1.1 была основана примерно на тех же шагах, что и версия 1, но на основе аблитерированной версии Qwen-Instruct. Предполагая, что это нанесло некоторый урон, эта версия исцеляет его средними слоями v1. Они все еще менее «цензурированы отказом», чем v1, хотя обязательно откалибруйте подсказку системы соответствующим образом для варианта использования. Тестирование EQ-bench все еще имело некоторые проблемы с синтаксисом, но было протестировано на 76.1336 (с подсказкой Qwen, которую я планирую удалить). Неплохо, учитывая, что по крайней мере половина из них прошла через очищение и DPO. Это, конечно,…
Модальности:
Генерация текста
Области применения:
Диалог / чат
Задача: Генерация текста
Автор: Lambent
Теги: qwen2, mergekit, merge, not-for-all-audiences, conversational, text-generation-inference, endpoints_compatible
Лайков: 4 | Загрузок: 7
Описание основано на материалах HuggingFace. Перевод выполнен автоматически.
