Иматричные кванты GGUF модели AlexBefest/WoonaV1.2-9b. Все кванты, кроме Q6k и Q80, были получены методом иматричного квантования. — llama.cpp Фреймворк с открытым исходным кодом для запуска моделей GGUF LLM, на котором созданы все остальные интерфейсы. — koboldcpp Простой метод вывода окон. Легкий форк llama.cpp с открытым исходным кодом, простым графическим интерфейсом и множеством дополнительных функций. — Собственная бесплатная версия LM studio llama.cpp с графическим интерфейсом.
Модальности:
Генерация текста
Области применения:
Диалог / чат
Задача: Генерация текста
Автор: secretmoon
Теги: gguf, unsloth, sft, pony, MyLittlePony, Russian, Lora, ru
Лайков: 6 | Загрузок: 129
Описание основано на материалах HuggingFace. Перевод выполнен автоматически.
