Это объединение предварительно обученных языковых моделей, созданных с помощью mergekit. Luminurse — это объединение на основе Lumimaid, дополненное биомедицинской моделью (более мощной, чем в версии 0.1), с добавлением небольшого количества TheSpice для улучшения форматирования генерации текста. Повышение температуры обладает интересным свойством одновременно уменьшать повторяемость и увеличивать детализацию модели. Более высокая температура также увеличивает вероятность проскальзывания мышления (которую можно уменьшить вручную, проведя пальцем по экрану для регенерации), поэтому настройки следует регулировать в соответствии с уровнем комфорта. Слегка протестировано с использованием подсказок Instruct с температурой в диапазоне от 1 до 1,6 (для запуска выберите что-то среднее, возможно, в диапазоне 1,2-1,45) и minP = 0,01. — статические GGUF, предварительный токенизатор llama-bpe — 8bpw exl2 quant — статические GGUF, предварительный токенизатор smaug-bpe с mradermacher — взвешенные/imatrix GGUF, предварительный токенизатор smaug-bpe с mradermacher К этой модели и ее производные. Если один ограничивает то, чего не делает другой, то ограничение применяется. Эта модель была объединена с использованием метода арифметического слияния задач с использованием…
Модальности:
Генерация текста
Области применения:
Диалог / чат
Задача: Генерация текста
Автор: grimjim
Теги: llama, mergekit, merge, conversational, text-generation-inference, endpoints_compatible
Лайков: 6 | Загрузок: 18
Описание основано на материалах HuggingFace. Перевод выполнен автоматически.
