Спасибо chargoddard за оригинальную модель 22b и сценарий слияния: https://huggingface.co/chargoddard/llama2-22b Это чат llama 2 13b с https://huggingface.co/ehartford/WizardLM-33B-V1.0-Uncensored в качестве модели-донора. Это очень экспериментальная модель, которая почти не тестировалась и не обязательно намного умнее стандартной 13b, но дает другое разнообразие ответов. Объединение заняло около 2 часов, при этом было использовано 32 ГБ оперативной памяти и около 115 ГБ подкачки. Обратите внимание: хотя донорская модель не подвергается цензуре, ее поведение по-прежнему будет аналогично базовой модели. Вероятно, в будущем я попытаюсь выполнить слияние, используя менее цензурируемые базовые модели.
Модальности:
Генерация текста
Области применения:
Диалог / чат
Задача: Генерация текста
Автор: nkpz
Теги: llama, text-generation-inference, endpoints_compatible
Лайков: 4 | Загрузок: 101
Описание основано на материалах HuggingFace. Перевод выполнен автоматически.
