Огромное спасибо @mradermacher и @bartowski за то, что предоставили нам эти кванты GGUF. Кванты Бартовского (иматрикс): bartowski/Gemma-2-Ataraxy-9B-GGUF Кванты Мрадермахера (статические): mradermacher/Gemma-2-Ataraxy-9B-GGUF Кванты Мрадермахера (иматрикс): mradermacher/Gemma-2-Ataraxy-9B-i1-GGUF Я думаю, что Бартовски и мрадермахер используют разные калибровочные данные для иматричных квантов, или, может быть, вы предпочитаете статические кванты. Выбери свой яд :). Кванты EXL2 от CameronRedmore: CameronRedmore/Gemma-2-Ataraxy-9B-exl2 Правильно, ко всеобщему удивлению (включая мое), эта модель превзошла тест творческого письма eqbench.com. Большое спасибо _sqrkl за то, что нашли время протестировать эту модель и добавить ее в свою таблицу лидеров, а также @nbeerbower за то, что выслушал мои предложения по поводу его потрясающих мелодий Гутенберга. Это делает его одним из самых умных вариантов тонкой настройки/слияния Gemma 2 9B, лишь немногие набирают немного больше очков. Эта модель превосходит SimPO и SPPO iter2/3 в среднем на целый балл. Мои любимые модели Gemma 2 9B — это SPPO iter3 и SimPO Finetunes, но я чувствовал, что слияние между ними (nephilim v3) по какой-то причине не так хорошо. Тонкая настройка Gutenberg Gemma 2 от nbeerbower — это…
Модальности:
Генерация текста
Области применения:
Диалог / чат
Задача: Генерация текста
Автор: lemon07r
Теги: gemma2, mergekit, merge, conversational, model-index, text-generation-inference, endpoints_compatible
Лайков: 77 | Загрузок: 44
Описание основано на материалах HuggingFace. Перевод выполнен автоматически.
