Это просто 8-битная версия модели Ламы-2-7Б. — 8-бит позволяет модели иметь размер менее 10 ГБ. — Это позволяет размещать вывод модели на домашней странице модели. — Обратите внимание, что вывод может быть медленным, если у вас нет плана HuggingFace Pro. Если вы хотите выполнить логический вывод самостоятельно (например, в блокноте Colab), вы можете попробовать: Llama 2 — это набор предварительно обученных и точно настроенных генеративных текстовых моделей в масштабе от 7 до 70 миллиардов параметров. Это репозиторий для точно настроенной модели 7B, оптимизированной для сценариев использования диалогов и преобразованной для формата Hugging Face Transformers. Ссылки на другие модели можно найти в указателе внизу. Meta разработала и публично выпустила семейство больших языковых моделей (LLM) Llama 2 — коллекцию предварительно обученных и точно настроенных генеративных текстовых моделей с масштабом от 7 до 70 миллиардов параметров. Наши доработанные LLM, называемые Llama-2-Chat, оптимизированы для сценариев использования диалога. Модели Llama-2-Chat превосходят модели чата с открытым исходным кодом по большинству протестированных нами тестов, а по нашим человеческим оценкам полезности и безопасности находятся на одном уровне с некоторыми популярными моделями чата с закрытым исходным кодом, такими как ChatGPT и PaLM. Вариации Llama 2 входят…
Модальности:
Генерация текста
Области применения:
Диалог / чат
Задача: Генерация текста
Автор: Trelis
Теги: llama, facebook, meta, llama-2, hosted inference, 8 bit, 8bit, 8-bit
Лайков: 7 | Загрузок: 6
Описание основано на материалах HuggingFace. Перевод выполнен автоматически.
