Эта модель представляет собой доработку модели Falcon 7B LLM компании TII. Он был обучен на смеси потоков OASST top-2 (экспортирован 2 июня 2023 г.), Dolly-15k и синтетических наборов данных инструкций (см. конфигурацию набора данных ниже). — Точная настройка: tiiuae/falcon-7b — Тип модели: языковая модель преобразователя, предназначенная только для каузального декодера. — Язык: английский, немецкий, испанский, французский (и ограниченные возможности итальянского, португальского, польского, голландского, румынского, чешского, шведского); — Веса и смещения: журнал тренировок (контрольная точка: 2000 шагов, ~2,9 эпохи) — Демо: продолжения для 250 случайных подсказок — Лицензия: Apache 2.0 — Контакт: Open-Assistant Discord Для обозначения начала хода пользователя и помощника используются два специальных токена: и . Каждый ход заканчивается жетоном. Ввод заканчивается токеном, сигнализирующим о том, что модель должна начать генерировать ответ помощника.
Модальности:
Генерация текста
Задача: Генерация текста
Автор: OpenAssistant
Теги: RefinedWebModel, sft, custom_code, en, de, es, fr, text-generation-inference
Лайков: 40 | Загрузок: 28
Описание основано на материалах HuggingFace. Перевод выполнен автоматически.
