 Для этой модели настоятельно рекомендуется использовать вывод fp16, поскольку 8-битная точность может существенно повлиять на производительность. Если вам требуется версия, более дружественная к потребительскому оборудованию, используйте специализированную квантованную версию V-Ram объемом не менее 5 ГБ, требующую JosephusCheung/GuanacoOnConsumerHardware. Вам рекомендуется использовать последнюю версию трансформеров с GitHub. Guanaco — это усовершенствованная языковая модель следования инструкциям, построенная на модели LLaMA 7B компании Meta. В дополнение к исходному набору данных из 52 000 данных модели Альпака были включены дополнительные записи из 534 000+, охватывающие английский, упрощенный китайский, традиционный китайский (Тайвань), традиционный китайский (Гонконг), японский, немецкий, а также различные лингвистические и грамматические задачи. Такое богатство данных позволяет Guanaco исключительно эффективно работать в многоязычной среде. Стремясь обеспечить открытость и тиражируемость исследований, мы сделали набор данных Гуанако общедоступным и опубликовали здесь веса моделей. Предоставляя эти ресурсы, мы стремимся вдохновить больше исследователей на проведение соответствующих исследований и коллективное продвижение развития…
Модальности:
Генерация текста
Области применения:
Диалог / чат
Задача: Генерация текста
Автор: JosephusCheung
Теги: llama, guannaco, alpaca, conversational, en, zh, ja, de
Лайков: 231 | Загрузок: 851
Описание основано на материалах HuggingFace. Перевод выполнен автоматически.
