Это экспериментальная модель на основе OPT с 19 миллионами параметров, полностью обученная с нуля в качестве практики набора данных. Таким образом, на него не должна распространяться обычная лицензия OPT. Вы можете использовать эту модель для любых целей. Модель достаточно мала (менее 40 МБ), поэтому она должна работать на очень высоких скоростях даже полностью на процессоре. Рекомендуется использовать эту модель с программным обеспечением KoboldAI со следующими параметрами: — Температура: 0,9 — Штраф за повторение: 1,1 — Наклон штрафа за повторение: 0,7 — Диапазон штрафа за повторение: 1024 — Выборка Top-P: 0,9 — Отключить все остальные сэмплеры. Все отзывы и комментарии могут быть направлены Конседо по дискорду KoboldAI.
Модальности:
Генерация текста
Области применения:
Диалог / чат
Задача: Генерация текста
Автор: concedo
Теги: opt, en, text-generation-inference
Лайков: 18 | Загрузок: 2,740
Описание основано на материалах HuggingFace. Перевод выполнен автоматически.
