Этот репозиторий содержит некоторые ВЫСШИЕ квантования Naphula/Goetia-26B-A4B-v1.7, созданные с использованием иматрицы Бартовски, найденной здесь. Как объяснили его создатели, APEX — это «новая технология квантования смешанной точности для llama.cpp, ориентированная на MoE». Я предлагаю прочитать их информацию о том, как и почему этот метод. Для ролевой игры я лично настоятельно рекомендую предустановки SillyTavern от nohurry для моделей Gemma 4. Мой единственный вклад — это вычисления. Это ни мое слияние, ни моя методология квантования. Получайте удовольствие (в рамках лицензии). Google — базовая модель. Naphula — the Mergelord. Все, чьи тонкие мелодии были включены в merge! mudler — для методологии квантования APEX. EmanuelOverride — для пользовательских экспериментов APEX. bartowski — для мириад квантов imatrix, от которых мы все выигрываем.
Модальности:
Генерация текста
Области применения:
Диалог / чат
Задача: Генерация текста
Автор: Koshkasa
Теги: llama.cpp, gguf, all genres, conversational, creative, creative writing, dark writing, della
Лайков: 3 | Загрузок: 1,568
Описание основано на материалах HuggingFace. Перевод выполнен автоматически.