— Результат нового метода слияния, предоставленного инструментом MergeMonster с расширенной предустановкой RPG. — модели, используемые для слияния: jondurbin/bagel-dpo-34b-v0.2 NousResearch/Nous-Capybara-34B NousResearch_Nous-Hermes-2-Yi-34B SUSTech/SUS-Chat-34B — Метод направлен на максимизацию вероятности одних фраз и минимизацию вероятности других фраз. — Предустановка RPG была расширена примерами типичных, бессмысленных результатов большинства моделей, таких как «нерушимая связь», «мурашки по спине» и т. д. — Полученная модель имеет примерно 34 миллиарда параметров. — См. mergekit-config.yml для получения подробной информации об используемом методе слияния и пресетах RPG. — без проблем создает контент SFW и NSFW, легко переключает контекст. — Длина контекста 200 тыс. — хорошо выполняет инструкции — отличается от TeeZee/Kyllene-57B-v1.0, но также на удивление интересен (но необходимо больше тестов) — Метод MergeMonster работает, однако проект значительно выиграет от большей любви со стороны разработчиков. — В своем текущем состоянии MergeMonster потребляет безумное количество оперативной памяти (256 ГБ+) или видеопамяти и занимает очень много времени для обработки данных модели, это слияние заняло 24 часа на 1xADA6000 — MergeMonster не является золотой пулей, как показали другие эксперименты…
Модальности:
Генерация текста
Области применения:
Диалог / чат
Задача: Генерация текста
Автор: TeeZee
Теги: llama, merge, conversational, text-generation-inference, endpoints_compatible
Лайков: 16 | Загрузок: 11
Описание основано на материалах HuggingFace. Перевод выполнен автоматически.
