LFM2 8B A1B тонкая настройка, полученная с помощью слегка модифицированной версии еретического (v1.1.0) аблитерационного движка P-E-W с объединенной поддержкой PR гибридной слоевой модели. Эта еретическая модель в значительной степени не подвержена цензуре; поэтому используйте ее с особой осторожностью и осторожностью. Показатели аблитерации: Отказы: 7/100, KL расхождение: 0,0680 Статистика: — Параметры: — индекс направления = на слой — attn.oproj.maxweight = 1,77 — attn.oproj.maxweightposition = 15,35 — attn.oproj.minweight = 0,53 — attn.oproj.minweightdistance = 7,77 — conv.outproj.maxweight = 1,53 — conv.outproj.maxweight = 18,74 — conv.outproj.minweight = 0,54 — conv.outproj.minweightdistance = 1,94 — mlp.downproj.maxweight = 2,03 — mlp.downproj.maxweight Это устанавливает новый стандарт с точки зрения…
Модальности:
Генерация текста
Области применения:
Диалог / чат
Задача: Генерация текста
Автор: MuXodious
Теги: lfm2_moe, liquid, lfm2, edge, moe, heretic, conversational, en
Лайков: 4 | Загрузок: 19
Описание основано на материалах HuggingFace. Перевод выполнен автоматически.