Это квантованные файлы формата GGUF для OBLITERATUS/gemma-4-E4B-it-OBLITERATED. Для удовлетворения различных требований к памяти и производительности предусмотрены следующие методы квантования: После того как вы загрузили llama.cpp и скомпилировали его, вы можете запустить эту модель через командную строку. Базовое использование CLI: bash ./llama-cli -m gemma-4-E4B-it-obliterated-Q4K_M.gguf -p «Ваше приглашение находится здесь» -n 512
Модальности:
Генерация текста
Области применения:
Диалог / чат
Задача: Генерация текста
Автор: Abiray
Теги: gguf, llama-cpp, quantized, gemma, endpoints_compatible, conversational
Лайков: 15 | Загрузок: 27,126
Описание основано на материалах HuggingFace. Перевод выполнен автоматически.
