Чат и поддержка: мой новый сервер Discord Хотите внести свой вклад? Страница TheBloke на Patreon. В этом репозитории указаны веса модели Koala 7B, произведенной в Беркли. Это результат объединения различий https://huggingface.co/young-geng/koala с оригинальной моделью Llama 7B. Модели 13B: неквантованная модель 13B в формате HF, квантованная GPTQ, 4 бита Модель 13B в форматах pt и Safetensors, квантованная GPTQ, 4 бита Модель 13B в формате GGML для llama.cpp` Модели 7B: Неквантованная модель 7B в формате HF Неквантованная модель 7B в формате GGML, квантованная 4 бита GPTQ Модель 7B в форматах pt и Safetensors. Квантованная GPTQ 4-битная модель 7B в формате GGML для llama.cpp. Дельта-веса Koala были объединены с помощью следующих команд: Для дальнейшей поддержки и обсуждения этих моделей и искусственного интеллекта в целом присоединяйтесь к нам по адресу: Многие люди спрашивали, могут ли они внести свой вклад. Мне нравится предоставлять модели и помогать людям, и я хотел бы иметь возможность уделять этому еще больше времени, а также заниматься новыми проектами, такими как точная настройка/обучение. Если вы можете и хотите внести свой вклад, он будет принят с большой благодарностью и поможет мне продолжать предоставлять больше моделей и начать работу над новым ИИ…
Модальности:
Генерация текста
Задача: Генерация текста
Автор: TheBloke
Теги: llama, koala, ShareGPT, gptq, text-generation-inference, endpoints_compatible
Лайков: 21 | Загрузок: 2,073
Описание основано на материалах HuggingFace. Перевод выполнен автоматически.
