Ультра-качественный высокий ремастер невероятного: Psyonic-Cetacean 20b — Imatrix Plus 2. Это повышенный уровень с плавающей запятой 32, в котором все компоненты и слияния были переработаны до уровня с плавающей запятой 32. Сюда входят все слияния (воссозданные с помощью мастер-файлов) и, где это возможно, замена полных моделей FP32. Этот репозиторий содержит новые кванты Imatrix Plus 2, использующие новый собственный набор данных, объединенный с основным набором данных, чтобы еще больше повысить производительность ремастера Ultra Quality. Цель: обеспечить максимальную точность вплоть до момента, когда она будет «сброшена». Сюда также входит мастер-файл F32 для GGUF… колоссальные 78 ГБ. Потому что разница между F32 и BF16 составляет… более 8 ДЕСЯТИЧНЫХ знаков. И поскольку каждое слияние/модель изменяется, на этом пути возникают «потери». Эти потери переносятся на будущее и, в свою очередь, приводят к еще большим потерям. Да… но умножается на каждое слияние(я) и сжатие(я): 20 миллиардов раз. В Q2K впечатляющее падение растерянности на 533 пункта. (чем ниже, тем лучше) (VS: исходная базовая модель Q2K: PPL = 9,8077 +/- 0,06821) На Q4KM колоссальное падение недоумения на 976 очков. (Против: исходная базовая модель Q4km -> PPL = 8,7858 +/- 0,06074) В Q6 потрясающее падение на 234 пункта…
Модальности:
Генерация текста
Задача: Генерация текста
Автор: DavidAU
Теги: gguf, creative, story, writing, fiction, float32, roleplaying, rp
Лайков: 10 | Загрузок: 502
Описание основано на материалах HuggingFace. Перевод выполнен автоматически.
