Я получил запрос на загрузку версии FP16 моего первого слияния MergeMonster 13b, единственной целью которого было сокращение чрезмерно используемых ролевых фраз ChatGPT. Многие служители были убиты в ходе этого процесса. Квантование GGUF можно найти в моем основном репозитории MergeMonster. Неудивительно, что от MythoMax мало что осталось. Мне (очевидно!) он очень нравится, но он не идеален. Напоминание: MergeMonster работает с сотнями частей, разбросанных по всему финальному слиянию. Если модель занимает большую часть композиции, это не означает, что она объединена таким образом, который мог бы быть логичным для человека.
Модальности:
Генерация текста
Задача: Генерация текста
Автор: Gryphe
Теги: llama, en, text-generation-inference, endpoints_compatible
Лайков: 7 | Загрузок: 5
Описание основано на материалах HuggingFace. Перевод выполнен автоматически.
