Этот репозиторий содержит модель jphme/Llama-2-13b-chat-german в формате GGUF. Эта модель была создана jphme. Это доработанный вариант чата Llama2 13b от Meta с компиляцией нескольких наборов данных инструкций на немецком языке. Если вы хотите создать свои собственные квантования GGUF моделей HuggingFace, используйте llama.cpp. 1. Клонируйте и установите llama.cpp (на момент написания мы использовали коммит 9e20231), затем скомпилируйте. 2. Используйте предоставленный файл Convert.py, чтобы преобразовать исходную модель в GGUF с точностью FP16. 3. Преобразованная модель GGUF с точностью FP16 затем будет использоваться для дальнейшего квантования до 8-битного и 5-битного (K_M). Это оригинальная карточка модели из jphme/Llama-2-13b-chat-german: Llama-2-13b-chat-german — это вариант модели чата Meta Llama 2 13b, настроенный на дополнительном наборе данных на немецком языке. Эта модель оптимизирована для текста на немецком языке и обеспечивает навыки понимания, создания и взаимодействия с немецкоязычным контентом. Однако модель еще не полностью оптимизирована для немецкого языка, поскольку она была обучена на небольшом экспериментальном наборе данных и имеет ограниченные возможности из-за небольшого количества параметров. Некоторые данные по штрафам также преследуются…
Модальности:
Генерация текста
Области применения:
Диалог / чат
Задача: Генерация текста
Автор: morgendigital
Теги: llama, llama-2, german, deutsch, de, en
Лайков: 7 | Загрузок: 0
Описание основано на материалах HuggingFace. Перевод выполнен автоматически.
