Это слияние, использующее Mistral Large в качестве основы и включающее Lumimaid-v0.2-123B и Magnum-v2-123B. Мне казалось, что Magnum слишком много болтает, а Lumimaid потерял слишком много умственных способностей, поэтому я долгое время использовал базу Mistral Large, но ей не хватало влаги. По прихоти я решил объединить Lumimaid и Magnum поверх Mistral big, и хотя я не ожидал многого, я был очень удивлен результатами. Я обнаружил, что эта модель сохраняет интеллектуальную мощь базы Mistral, а также унаследовала лексику Lumimaid и творческие описания Magnum, не слишком много болтая. Я довольно тщательно протестировал эту модель на скорости 32k и выше и с большим успехом. Теоретически он должен обеспечивать полный контекст 128 КБ, хотя я использовал только максимум 40-50 КБ. Он стал моим новым ежедневным водителем. Единственный минус, который я смог обнаружить, это то, что он имеет тенденцию генерировать длинные ответы, если вы ему позволите. Вероятно, он получил это от Магнума. Только не позволяйте ему увеличивать размер ответа снова и снова. Я рекомендую следующие настройки: — Minp: 0,08 — Штраф за повторение: 1,03 — Диапазон штрафа за повторение: 4096 — Коэффициент сглаживания: 0,23 — Размер NGram без повтора: 2 * Эта модель была объединена с использованием метода слияния della_linear с использованием…
Модальности:
Генерация текста
Области применения:
Диалог / чат
Задача: Генерация текста
Автор: FluffyKaeloky
Теги: mistral, mergekit, merge, conversational, text-generation-inference, endpoints_compatible
Лайков: 40 | Загрузок: 13
Описание основано на материалах HuggingFace. Перевод выполнен автоматически.
