— Квантованная версия CodeLlama-7b-Instruct-hf — Создано с использованием llama.cpp Q2K Q3KL Q3KM Q3KS Q40 Q4KM Q4KS Q50 Q5KM Q5KS Q6K Q8_0
Модальности:
Генерация текста
Области применения:
Генерация кода Диалог / чат Следование инструкциям
Задача: Генерация текста
Автор: QuantFactory
Теги: gguf, code, llama, llama-2, text-generation-inference, conversational
Лайков: 4 | Загрузок: 800
Описание основано на материалах HuggingFace. Перевод выполнен автоматически.
WPAIGPT-fse-patterns-1 — это тонко настроенная версия модели Qwen 2.5 32B Instruct, специализирующейся на создании структурированных шаблонов WordPress Gutenberg....
stockmarkさんが公開している、stockmark-13bを、 日本語のキャリブレーションセットで生成したGPTQモデルになります。 キャリブレーションセットはizumi-lab/wikipedia-ja-20230720から、 1kほどランダムサンプリングしたものと、 ELYZA-tasks-100のinput/outputを計200ほど追加しています。 mmnga/wikipedia-ja-20230720-1k ~~~python from auto_gptq import AutoGPTQForCausalLM, BaseQuantizeConfig from transformers import AutoTokenizer tokenizer =...
Для этой коллекции квантов ТРЕБУЕТСЯ форк ikllama.cpp для поддержки последних квантов и оптимизаций SOTA ik! Не** загружайте эти...
Если вы получаете доступ, используете или распространяете любые модели Stability AI, программное обеспечение или другие материалы («Технология Stability»),...
