Итак, это базовое слияние умной модели и хорошей прозаической модели. Проза и ум. Чего мы все хотим от ролевой модели без цензуры, верно? В любом случае, я чувствую, что у Solar есть неиспользованный потенциал. Тонкая настройка Frostwind от Sao10K является ключевым компонентом смеси, ее возможности впечатляют. Эксперимент NyxKrage Frostmaid, который объединяет Frostwind с откровенным слиянием Noromaid и загадочной медицинской модели, представляет собой весьма впечатляющую прозу. Его модель творчески включает в себя долгосрочный контекст и инструкции, несмотря на то, что она немного бессвязна из-за слияния фракенов. Итак, это основные ингредиенты. Кстати, спасибо Nyx за то, что он разобрался с файлами pytorch. GGUF (небольшой выбор Imatrix и обычных k-квантов): https://huggingface.co/BlueNipples/DaringLotus-SnowLotus-10.7b-IQ-GGUF EXL2s: https://huggingface.co/zaq-hack/SnowLotus-v2-10.7B-bpw500-h6-exl2 https://huggingface.co/lucyknada/SnowLotus-v2-10.7B-3bpw-exl2 Итак, рецепт. Я добавил Solardoc от Nyx к Frostwind с весом 0,15, а градиент Frostwind (+solardoc) от SLERP в Frostmaid со следующими параметрами: — фильтр: значение self_attn: [0,9, 0,4, 0,1, 0, 0] — фильтр: значение mlp: [0,05, 0,95] — значение: 0,45 Solar предназначен для 4k…
Модальности:
Генерация текста
Задача: Генерация текста
Автор: BlueNipples
Теги: llama, Roleplay, Solar, Mistral, Text Generation, merge, text-generation-inference, endpoints_compatible
Лайков: 5 | Загрузок: 87
Описание основано на материалах HuggingFace. Перевод выполнен автоматически.