Это Larryvrh/Yi-34B-200K-Llamafied, с настройкой инструкций, выполненной с помощью набора данных Jon Durbin’s jondurbin/airoboros-3.1. Эта базовая модель — 01-ai/Yi-34B-200k, но с использованием определений модели llama2 и токенизатора для удаления любых требований к удаленному коду. Тонкую настройку проводили с помощью 1x RTX 6000 ADA (~80 часов до этой контрольной точки). Подсказки были усечены до 4096 токенов (для скорости и объема VRAM). Я очень мало тестировал эту модель, поэтому мы ценим отзывы о производительности в реальном мире! Модель обучалась в формате подсказки чата llama-2. Подробную информацию см. в карточке модели jondurbin/airoboros-l2-13b-3.1.1.
Модальности:
Генерация текста
Задача: Генерация текста
Автор: bhenrym14
Теги: llama, text-generation-inference, endpoints_compatible
Лайков: 3 | Загрузок: 63
Описание основано на материалах HuggingFace. Перевод выполнен автоматически.
