Официальный исследовательский релиз для семейства моделей XGen (7B) от Salesforce AI Research: Название: Моделирование длинных последовательностей с помощью XGen: 7B LLM, обученный на длине входной последовательности 8K Авторы: Эрик Нийкамп, Тянь Се, Хироаки Хаяши, Бо Пан, Конгиинг Ся*, Чен Син, Джесси Виг, Семих Явуз, Филипп Лабан, Бен Краузе, Сентил Пурушвалкам, Тонг Ню, Войцех Крыщинский, Лидия Мураховская, Прафулла Кумар Чубей, Алекс Фаббри, Йе Лю, Руй Мэн, Лифу Ту, Мегана Бхат, Чиен-Шэн Ву, Сильвио Саварезе, Инбо Чжоу, Шафик Райхан Джоти, Кайминг Сюн. XGen-7B-4K-Base: модель XGen-7B, предварительно обученная по длине последовательности 4K. Лицензия: Apache-2.0 XGen-7B-8K-Base: модель XGen-7B, предварительно обученная под длину последовательности 8 КБ. Лицензия: Apache-2.0 Контролируемая точно настроенная модель на основе общедоступных учебных данных. Выпущено только для исследовательских целей. Данные обучения для моделей токенизированы с помощью библиотеки OpenAI Tiktoken. Чтобы использовать эту модель, установите пакет через pip: Модели можно использовать в качестве авторегрессионных сэмплеров следующим образом: Этот выпуск предназначен только для исследовательских целей в поддержку научной статьи. Наши модели, наборы данных и код специально не разрабатываются и не оцениваются для всех последующих целей. Мы…
Модальности:
Генерация текста
Задача: Генерация текста
Автор: Salesforce
Теги: llama, text-generation-inference, endpoints_compatible
Лайков: 317 | Загрузок: 995
Описание основано на материалах HuggingFace. Перевод выполнен автоматически.
