Серия Teaz — моя третья попытка слияния, на этот раз на L3.x 70b, после серии L3.2 3b Костюм и Кермес. На этот раз целью было сделать умную модель с низкой степенью сложности, в соответствии с принципами серии Кермес, но со слиянием трех объединенных моделей, как в серии Костюм. Использовались удаленные модели Хуэйхуэя: — Лама 3.3 70b в качестве основы первой/основной модели. — Nemotron 3.1 70b и Deepseek R1 Distill 70b в качестве стоек основной модели, а также чересстрочные стержни/стойки 2-й и 3-й моделей. — и Тулу 3 70б в качестве второй стойки 2-й и 3-й модели. Опять Бинго. Я набрал 3,45 человека512 в Wikieng, 62+ или ARC-C и 82+ на ARC-E. Абсолютный топ в классе для L3.x 70b, как Кермес для L3 3.2 3b. Никакого мошенничества, никакого загрязнения, просто замечательная техника слияния моделей и материалов MergeKit, выведенная на новый уровень (по крайней мере, по сравнению с тем, что я уже видел). Следующие проекты будут использовать эту модель в качестве «умной опоры/блока» дальнейших слияний, нацеленных на любой вариант использования. Я думаю, что большинство моделей можно настроить таким же образом, используя тройное слияние прикладов, чередующееся с тонкой настройкой и базовой тонкой настройкой. — Это получение общего «интеллекта» и…
Модальности:
Генерация текста
Области применения:
Диалог / чат
Задача: Генерация текста
Автор: Nexesenex
Теги: llama, mergekit, merge, conversational, text-generation-inference, endpoints_compatible
Лайков: 6 | Загрузок: 9
Описание основано на материалах HuggingFace. Перевод выполнен автоматически.
