Mistral-Nemo-Instruct-2407-exl2-8bpw-h8
Это квантованная версия mistralai/Mistral-Nemo-Instruct-2407 с разрешением 8,0 бит в секунду, созданная с помощью exllamav2. Хотите купить мне чашку...
Метка: exl2
Merged-RP-Stew-V2-34B_exl2_8.0bpw
Это квант EXL2 с битрейтом 8,0 бит/вт ParasiticRogue/Merged-RP-Stew-V2-34B. Подробности о модели и информацию о слиянии можно найти на...
Yi-34B-200K-RPMerge-exl2
«Основная» ветка содержит только файл Measure.json, загрузите одну из других веток для модели (см. ниже). Каждая ветка содержит...
NemoMix-Unleashed-EXL2-4bpw
Маринара сказала, что они провели много тестов по этому вопросу, поэтому я вполне уверен, что подсчитаю это здесь....
RP-Stew-v4.0-34B
https://huggingface.co/ParasiticRogue/RP-Stew-v4.0-34B-exl2-4.65 (на данный момент) экспериментальное/тестовое слияние, чтобы попытаться расширить возможности Stew, но с некоторыми небольшими изменениями в используемых...
RP-Stew-v4.0-34B-exl2-4.65
Для квантования использовался Parquet (Bluemoon-Light/Chat-Vicuna-1.1): https://huggingface.co/datasets/ParasiticRogue/Bluemoon-Light Еще одно экспериментальное/тестовое слияние и количественный анализ, чтобы попытаться увеличить возможности Stew,...
Yi-34B-200K-RPMerge-exl2-40bpw
См. карточку основной модели: https://huggingface.co/brucethemoose/Yi-34B-200K-RPMerge Квантовано с квантованием exl2 по умолчанию, все еще изучаются преимущества и недостатки квантования...
Merged-RP-Stew-V2-34B-exl2-4.65-fix
https://huggingface.co/ParasiticRogue/Merged-RP-Stew-V2-34B?not-for-all-audiences=true https://huggingface.co/datasets/ParasiticRogue/Bluemoon-Light?not-for-all-audiences=true Новая кастрюля с тушеным мясом, в рецепт слияния которого добавлена небольшая приправа. Помимо того, что Capybara...
Merged-RP-Stew-V2-34B
Это объединение предварительно обученных языковых моделей, созданных с помощью mergekit. 3.5 – https://huggingface.co/ParasiticRogue/Merged-RP-Stew-V2-34B-exl2-3.5?not-for-all-audiences=true 4.0 – https://huggingface.co/ParasiticRogue/Merged-RP-Stew-V2-34B-exl2-4.0?not-for-all-audiences=true 4.65 – https://huggingface.co/ParasiticRogue/Merged-RP-Stew-V2-34B-exl2-4.65-fix?not-for-all-audiences=true 5.0 – https://huggingface.co/ParasiticRogue/Merged-RP-Stew-V2-34B-exl2-5.0?not-for-all-audiences=true...
Yi-34B-200K-RPMerge
Объединение нескольких моделей Yi 34B с единственной целью: контекст 40 тыс.+, рассказывание историй с подсказками. Разочарованный некоторыми особенностями...