Это новый подход к удалению моделей, использующих только ЦП. Мне удалось стереть эту модель с помощью бесплатной обработки Kaggle без ускорителя. 1. Получите вектор направления отказа, используя квантовую модель с llama.cpp (llama-cpp-python и ggml-python). 2. Ортогонализировать каждый файл .safetensors непосредственно из исходного репозитория и загрузить в новый репозиторий. (по одному)
Модальности:
Генерация текста
Области применения:
Диалог / чат
Задача: Генерация текста
Автор: byroneverson
Теги: internlm2, feature-extraction, interlm, internlm2_5, chat, it, abliterated, conversational
Лайков: 4 | Загрузок: 10
Описание основано на материалах HuggingFace. Перевод выполнен автоматически.
