LlamaDos — модель, ориентированная на общение на испанском языке. Это результат тонкой настройки модели Llama2-7b компанией Meta с использованием различных методов оптимизации, таких как LoRa, квантование, накопление градиента и многое другое. Это позволило проводить обучение на одном потребительском графике (RTX 3090). В частности, было использовано более 250 000 разговорных данных, а обучение заняло около 140 часов. Обучение проводилось в соответствии с исходной структурой данных статьи Llama2, поэтому для вывода рекомендуется использовать ту же структуру: Эта работа финансируется Мадридским сообществом в рамках гранта на исследования для молодых исследователей Мадридского политехнического университета (GENIUS:APOYO-JOVENES-21-TAXTYC-32-K61X37) и поддерживается следующими проектами: Европейская комиссия в рамках проекта ASTOUND (101071191—HORIZON-EIC-2021-PATHFINDERCHALLENGES-01) и BEWORD (PID2021-126061OB-C43), финансируемые MCIN/AEI/10.13039/501100011033 и, в зависимости от обстоятельств, «ERDF: способ создания Европы», «Европейским Союзом». Мы также хотим поблагодарить службы MS Azure (особенно Ирвинга Квонга) за их спонсорскую поддержку в переводе на испанский язык всего…
Модальности:
Генерация текста
Области применения:
Диалог / чат
Задача: Генерация текста
Автор: garrachonr
Теги: llama, conversational, llama2, es, text-generation-inference, endpoints_compatible
Лайков: 7 | Загрузок: 9
Описание основано на материалах HuggingFace. Перевод выполнен автоматически.
