Llama 2 — это набор предварительно обученных и точно настроенных генеративных текстовых моделей масштаба от 7 до 70 миллиардов параметров. Это репозиторий для точно настроенной модели 70B, оптимизированной для сценариев использования диалогов и преобразованной для формата Hugging Face Transformers. Ссылки на другие модели можно найти в указателе внизу. В настоящее время мы все еще обучаем LLAMA 2 70B на нашем наборе данных на французском языке. После завершения обучения мы повторно загрузим новую модель в учетную запись нашей организации и запустим новую оценку из таблицы лидеров Hugging Face. Текущая оценка в основном равна исходной, поскольку это просто та же базовая модель до точной настройки. Мы также применяем веревочное скалирование в качестве экспериментального подхода, используемого несколькими другими командами открытого исходного кода для увеличения длины контекста LLAMA 2 с 4096 до более чем 6000 токенов. Это позволит модели обрабатывать большие файлы для извлечения данных. Meta разработала и публично выпустила семейство больших языковых моделей (LLM) Llama 2 — коллекцию предварительно обученных и точно настроенных генеративных текстовых моделей с масштабом от 7 до 70 миллиардов параметров. Наши точно настроенные LLM, называемые Llama-2-Chat, оптимизированы для сценариев использования диалога…
Модальности:
Генерация текста
Задача: Генерация текста
Автор: Faradaylab
Теги: llama, facebook, meta, llama-2, en, text-generation-inference, endpoints_compatible
Лайков: 4 | Загрузок: 0
Описание основано на материалах HuggingFace. Перевод выполнен автоматически.
