— Превосходная версия ггуфа от Lewdiculous, спасибо за добросовестную и ответственную работу. — https://huggingface.co/LWDCLS/llama3-8B-DarkIdol-2.1-Uncensored-32K-GGUF-IQ-Imatrix-Request — Разница с обычным квантованием заключается в том, что я квантую выходные данные и встраиваю тензоры в f16., а другие тензоры в 15k, q6k или q8_0. Это создает модели, которые немного ухудшены или вообще не ухудшены. и имеют меньший размер. Они работают со скоростью около 3-6 т/сек на ЦП только с использованием llama.cpp. И, очевидно, быстрее на компьютерах с мощными графическими процессорами — https://huggingface.co/ZeroWw/llama3-8B-DarkIdol-2.1-Uncensored-32K-GGUF — Больше моделей здесь: https://huggingface.co/RobertSinclair Комбинация модулей была перенастроена для лучшего выполнения различных ролей и адаптирована. для мобильных телефонов. — Экономия денег (LLama 3) — Без цензуры — Быстрый ответ — В качестве базовой модели используется winglian/Llama-3-8b-64k-PoSE (Теоретическая поддержка составляет 64 тыс., но я тестировал только до 32 тыс. 🙂 — Научный ответ, похожий на диссертацию. (Я склонен писать песни экстенсивно, до такой степени, что одна песня становится почти такой же подробной, как диссертация. 🙂 — DarkIdol: Роли, которые вы можете себе представить, и те, которые вы не можете себе представить. — Ролевая игра — Специализированный…
Модальности:
Генерация текста
Задача: Генерация текста
Автор: aifeifei798
Теги: llama, roleplay, llama3, sillytavern, idol, en, ja, zh
Лайков: 6 | Загрузок: 19
Описание основано на материалах HuggingFace. Перевод выполнен автоматически.
