Llama2 13B настроен для обработки более длинных (32 КБ) контекстов с использованием интерполяции, а затем дальнейших инструкций, настроенных с помощью ShareGPT и Orca-Chat. Это следующая версия модели, обученная и оцененная в рамках экспериментов, описанных в репозитории http://github.com/abacusai/Long-Context. Эта версия была обучена с коэффициентом масштабирования 8 и демонстрирует лучшие способности к рассуждению и математическим способностям в современных тестах. Разработано: Abacus.AI. Тип модели: модель авторегрессионного причинно-следственного языка на основе трансформатора. Лицензия: Лицензия сообщества Llama 2: https://github.com/facebookresearch/llama/blob/main/LICENSE. Точная настройка на основе модели: Llama V2 13B. Поскольку модель указана после точной настройки его также можно напрямую использовать для различных задач. Мы протестировали его на ответах на вопросы открытой книги, используя длинный контекст для предоставления результатов поиска. Модель не прошла оценку безопасности и предназначена только для исследований и экспериментов.
Модальности:
Генерация текста
Задача: Генерация текста
Автор: abacusai
Теги: llama, llama2, text-generation-inference, endpoints_compatible
Лайков: 9 | Загрузок: 196
Описание основано на материалах HuggingFace. Перевод выполнен автоматически.
