Последовательное слияние с использованием специального алгоритма (NearSwap): — 152334H/miqu-1-70b-sf — Sao10K/WinterGoddess-1.4x-70B-L2 — Aurora-Nights-70B-v1.0 — Xwin-LM-70B-V0.1 В нашем тестировании эта модель выглядит как рассказчик, как и следовало ожидать, но изменения от это слияние чрезвычайно мягкое. Нас впечатлило то, что, в отличие от большинства моделей, в конце истории не часто используются такие клише, как «В конце», «И вот», «маяк надежды» и т. д. Большинство популярных квантовых форматов теперь доступны благодаря усилиям сообщества. NearSwap сохраняет большую часть весов базовой модели (Miqu), но если вес между ними аналогичен, он интерполируется до значения вторичной модели. Параметр t определяет порог сходства. Когда расстояние между двумя значениями меньше t, используется вес вторичной модели. В этой версии модели используется t = 0,0001. При этом t около 0,8% весов полностью переключаются на вторичную модель во время каждого прохода. Качество модели быстро ухудшается выше t = 0,0025: — t = 0,0001 (полная замена ~0,8%): Эта модель — t = 0,0003 (полная замена ~2%) — t = 0,001 (полная замена ~10%): BoreanGale-70B — t = 0,0025 (полная замена ~18%): генерирует один абзац нормально, но потом…
Модальности:
Генерация текста
Задача: Генерация текста
Автор: alchemonaut
Теги: llama, merge, model-index, text-generation-inference, endpoints_compatible
Лайков: 37 | Загрузок: 184
Описание основано на материалах HuggingFace. Перевод выполнен автоматически.
