Дообученная модель Llama-2-7b-hf с данными в формате 64 бита/limavicuna (10 эпох). Llama 2 — это набор предварительно обученных и дообученных генеративных текстовых моделей, масштабы которых варьируются от 7 миллиардов до 70 миллиардов параметров. Это репозиторий для предварительно обученной модели 7B. Ссылки на другие модели можно найти в указателе внизу. Компания Meta разработала и публично представила семейство больших языковых моделей (LLM) Llama 2 — набор предварительно обученных и доработанных генеративных текстовых моделей с количеством параметров от 7 до 70 миллиардов. Наши доработанные LLM под названием Llama-2-Chat оптимизированы для использования в диалогах. Модели Llama-2-Chat превосходят модели чатов с открытым исходным кодом по большинству протестированных нами эталонных показателей, а по результатам наших оценок полезности и безопасности, проведенных людьми, они не уступают некоторым популярным моделям с закрытым исходным кодом, таким как ChatGPT и PaLM. Варианты Llama 2 представлена в нескольких вариантах с разным количеством параметров — 7B, 13B и 70B, — а также в предварительно обученных и дообученных вариантах. Архитектура модели Llama 2 — это авторегрессивная языковая модель, использующая оптимизированную архитектуру трансформера. В оптимизированных версиях используется дообучение с учителем (SFT) и обучение с подкреплением на основе обратной связи от человека (RLHF) для адаптации к человеческому…
Модальности:
Генерация текста
Задача: Генерация текста
Автор: heegyu
Теги: llama, facebook, meta, llama-2, en, text-generation-inference
Лайков: 2 | Загрузок: 52
Описание основано на материалах HuggingFace. Перевод выполнен автоматически.
