Модели GPTQ для вывода графического процессора с несколькими вариантами параметров квантования. 2, 3, 4, 5, 6 и 8-битные модели GGUF для вывода CPU+GPU * 2, 3, 4, 5, 6 и 8-битные модели GGML для вывода CPU+GPU (устарело) WizardLM/WizardLM-13B-V1.2. Llama 2 — это набор предварительно обученных и точно настроенных генеративных текстовых моделей масштаба от 7 до 70 миллиардов параметров. Это репозиторий предварительно обученной модели 13B, преобразованной в формат Hugging Face Transformers. Ссылки на другие модели можно найти в указателе внизу. Meta разработала и публично выпустила семейство больших языковых моделей (LLM) Llama 2 — коллекцию предварительно обученных и точно настроенных генеративных текстовых моделей с масштабом от 7 до 70 миллиардов параметров. Наши доработанные LLM, называемые Llama-2-Chat, оптимизированы для сценариев использования диалога. Модели Llama-2-Chat превосходят модели чата с открытым исходным кодом по большинству протестированных нами тестов, а по нашим человеческим оценкам полезности и безопасности находятся на одном уровне с некоторыми популярными моделями чата с закрытым исходным кодом, такими как ChatGPT и PaLM. Вариации Llama 2 доступны с различными размерами параметров — 7B, 13B и 70B —…
Модальности:
Генерация текста
Задача: Генерация текста
Автор: uukuguy
Теги: llama, facebook, meta, llama-2, en, text-generation-inference
Лайков: 4 | Загрузок: 51
Описание основано на материалах HuggingFace. Перевод выполнен автоматически.
