!Остроумный и элегантный дворецкий с соколом на плече, улыбкой, плоской иллюстрацией, простыми формами, красочной, лоу-файной эстетикой Alfred-40B-1023 — это доработанная версия Falcon-40B с расширенной длиной контекста в 8192 токена. Тонкая настройка была выполнена в октябре 2023 года. Alfred-40B-1023 доступен по лицензии Apache 2.0. — Разработано: LightOn Оскар Халльстрем (руководитель проекта, обучение и моделирование, внутренние длинные контекстные данные, оценка) Амели Шатлен (внутренние данные и длинные контекстные данные, генерация данных) Клеман Тирие (инфраструктура данных, генерация данных, оценка) Жюльен Сеай (генерация данных) Адриен Кавайес (генерация данных) Аксель Марме* (обучение базовой линии 2K) работа, проделанная в LightOn — Тип модели: Причинно-следственная связь только декодер; — Язык(и) (НЛП): английский, немецкий, испанский, французский (и ограниченные возможности итальянского, португальского, польского, голландского, румынского, чешского, шведского); — Лицензия: лицензия Apache 2.0. — Доработано на основе модели: Falcon-40B. — Дата обучения: октябрь 2023 г. (1023`). Alfred-40B-1023 можно использовать как модель для чата или как модель для инструктирования. Как для режима инструкций, так и для режима чата модель была обучена с помощью токенов чата , , и . Их можно интегрировать в…
Модальности:
Генерация текста
Области применения:
Диалог / чат
Задача: Генерация текста
Автор: lightonai
Теги: RefinedWeb, falcon-40b, long-context, falcon, NTK-YaRN, conversational, custom_code, en
Лайков: 49 | Загрузок: 1,536
Описание основано на материалах HuggingFace. Перевод выполнен автоматически.
