!Сделано с помощью NovelAI Добро пожаловать, смелый; вы прошли долгую милю. ПРИМЕЧАНИЕ для новых пользователей: «R1» здесь означает «Версия 1». Эта модель предшествует R1 DeepSeek; DeepSeek случайно сделал использование этой схемы управления версиями очень раздражающим! Это объединение предварительно обученных языковых моделей, созданных с помощью mergekit. Mag Mell R1 был протестирован с Temp 1,25 и MinP 0,2. Это было довольно стабильно до 10K, но это могло быть слишком «горячо». Если возникают проблемы с когерентностью, попробуйте увеличить MinP или уменьшить температуру. Другие пробоотборники не нужны. Было показано, что XTC нарушает выходы. DRY подойдет, если использовать его экономно. Других сэмплеров штрафного типа, вероятно, следует избегать. Базовая модель для Mag Mell — Mistral-Nemo-Base-2407-chatml, поэтому рекомендуется использовать формат ChatML. Ранние тестовые версии имели тенденцию к утечке токенов, но с этим нужно более или менее разобраться. Недавно (18 декабря 2024 г.) стало известно, что квантование кэша может либо вызвать, либо усугубить эту проблему. Mag Mell — это многоэтапное слияние, вдохновленное гиперслияниями, такими как Tiefighter и Umbral Mind. Задумана как модель общего назначения «Best of Nemo» для любого вымышленного творческого варианта использования. Было выбрано 6 моделей по 3 категориям;…
Модальности:
Генерация текста
Области применения:
Диалог / чат
Задача: Генерация текста
Автор: inflatebot
Теги: mistral, mergekit, merge, conversational, text-generation-inference, endpoints_compatible
Лайков: 234 | Загрузок: 1,471
Описание основано на материалах HuggingFace. Перевод выполнен автоматически.
