Ультракачественный ремастер невероятного: Psyonic-Cetacean-20b — Imatrix Plus. Это апскейл с плавающей запятой 32, в котором все компоненты и слияния были переработаны до уровня с плавающей запятой 32. Это включает в себя все слияния (воссозданные с помощью мастер-файлов) и, где это возможно, замену полных моделей FP32. Цель: обеспечить максимальную точность вплоть до момента, когда она будет «сброшена». Сюда также входит мастер-файл F32 для GGUF… колоссальные 78 ГБ. Потому что разница между F32 и BF16 составляет… более 8 ДЕСЯТИЧНЫХ знаков. И поскольку каждое слияние/модель изменяется, на этом пути возникают «потери». Эти потери переносятся на будущее и, в свою очередь, приводят к еще большим потерям. Да… но умножается на каждое слияние(я) и сжатие(я): 20 миллиардов раз. В Q2K впечатляющее падение растерянности на 533 пункта. (чем ниже, тем лучше) (VS: исходная базовая модель Q2K: PPL = 9,8077 +/- 0,06821) На Q4KM колоссальное падение недоумения на 976 очков. (Против: Q4km исходная базовая модель -> PPL = 8,7858 +/- 0,06074) В Q6 потрясающее падение недоумения на 234 балла. (Против: исходная базовая модель Q6 -> PPL = 8,6070 +/- 0,05907). Для сравнения: «Q6» теперь работает ВЫШЕ исходной полной точной версии…
Модальности:
Генерация текста
Задача: Генерация текста
Автор: DavidAU
Теги: gguf, creative, story, writing, fiction, float32, roleplaying, rp
Лайков: 16 | Загрузок: 447
Описание основано на материалах HuggingFace. Перевод выполнен автоматически.
