Чат Модели 13B: Неквантованная модель 13B в формате HF Квантованная 4-битная модель 13B GPTQ в форматах pt и safetensors 4-битные, 5-битные и 8-битные модели GGML для llama.cpp` Модели 7B: Неквантованная модель 7B в формате HF Неквантованная модель 7B в формате GGML для llama.cpp Квантованная 4-битная модель 7B GPTQ в форматах pt и safetensors 4-битные, 5-битные и 8-битные модели GGML для llama.cpp Веса дельты Koala были объединены с помощью следующих команд: Для получения дополнительной поддержки и обсуждения этих моделей Мне нравится создавать модели и помогать людям, и я был бы рад уделять этому еще больше времени, а также заниматься новыми проектами, такими как доработка/обучение. Если у вас есть возможность и желание внести свой вклад, мы будем очень признательны и…
Модальности:
Генерация текста
Задача: Генерация текста
Автор: TheBloke
Теги: llama, custom_code, text-generation-inference, 4-bit, gptq
Лайков: 2 | Загрузок: 22
Описание основано на материалах HuggingFace. Перевод выполнен автоматически.
