Чат и поддержка: мой новый сервер Discord Хотите внести свой вклад? Страница TheBloke на Patreon. В этом репозитории содержатся данные о весе модели Koala 13B, произведенной в Беркли. Это результат объединения различий https://huggingface.co/young-geng/koala с оригинальной моделью Llama 13B. Модели 13B: неквантованная модель 13B в формате HF, квантованная 4 бита GPTQ. Модель 13B в форматах pt и Safetensors. 4-битные, 5-битные и 8-битные модели GGML для llama.cpp`. Модели 7B: неквантованная модель 7B в формате HF. Неквантованная модель 7B в формате GGML для llama.cpp. Квантованная GPTQ 4 бита 7B. модель в форматах pt и Safetensors. 4-битные, 5-битные и 8-битные модели GGML для llama.cpp. Дельта-веса Koala были объединены с помощью следующих команд: Для дальнейшей поддержки и обсуждения этих моделей и искусственного интеллекта в целом присоединяйтесь к нам по адресу: Многие люди спрашивали, могут ли они внести свой вклад. Мне нравится предоставлять модели и помогать людям, и я хотел бы иметь возможность уделять этому еще больше времени, а также заниматься новыми проектами, такими как точная настройка/обучение. Если вы можете и желаете внести свой вклад, он будет принят с большой благодарностью и поможет мне продолжать предоставлять больше моделей и начать работу над новыми проектами искусственного интеллекта. Жертвователи будут…
Модальности:
Генерация текста
Задача: Генерация текста
Автор: TheBloke
Теги: llama, koala, ShareGPT, gptq, text-generation-inference, endpoints_compatible
Лайков: 41 | Загрузок: 866
Описание основано на материалах HuggingFace. Перевод выполнен автоматически.
