Для квантования использовался Parquet (Bluemoon-Light/Chat-Vicuna-1.1): https://huggingface.co/datasets/ParasiticRogue/Bluemoon-Light Еще одно экспериментальное/тестовое слияние и количественный анализ, чтобы попытаться увеличить возможности Stew, но с некоторыми небольшими изменениями в используемых моделях, и на самом деле этот вариант, кажется, немного более перспективен, чем v3, если судить по кратким тестам, проведенным на данный момент. Trust-Remote-code все еще должен быть включен для этой версии, поскольку базовая модель — Capybara, но я рассмотрю возможность исправления этого позже, если в ходе дальнейшего тестирования она будет работать сравнимо с версией 2 или лучше. https://huggingface.co/adamo1139/Yi-34b-200K-AEZAKMI-RAW-TOXIC-2702
Модальности:
Генерация текста
Задача: Генерация текста
Автор: ParasiticRogue
Теги: llama, merge, roleplay, exl2, not-for-all-audiences, text-generation-inference, endpoints_compatible
Лайков: 11 | Загрузок: 6
Описание основано на материалах HuggingFace. Перевод выполнен автоматически.
