Это тонкая настройка https://huggingface.co/microsoft/Phi-3-mini-4k-instruct, обученная на варианте набора данных Kobble. Обучение проводилось менее чем за 4 часа на одном графическом процессоре Nvidia RTX 3090 с qLora (LR 1.2e-4, ранг 16, альфа 16, размер пакета 3, градиент согласно 3, 2048 ctx). Вы можете получить квантование GGUF этой модели здесь: https://huggingface.co/concedo/Phi-SoSerious-Mini-V1-GGUF Набор данных Kobble — это получастный агрегированный набор данных, созданный из нескольких онлайн-источников и веб-страниц, дополненный некоторыми синтетическими данными. Он содержит контент, выбранный и отформатированный специально для работы с программным обеспечением KoboldAI и Kobold Lite. Целью этой модели было создание пригодной для использования версии Фи-3-мини, пригодной для написания рассказов, разговоров и инструкций и без чрезмерной склонности к отказу. — Инструктирование: примеры инструкций по одному ходу, представленные в формате Альпака, с упором на ответы без цензуры и неограниченных ограничений. — Чат: журналы разговоров двух участников в формате многоходового необработанного чата, который использует KoboldAI. — Сюжет: Неструктурированные отрывки художественной литературы, включая литературу, содержащую различный эротический и провокационный контент.
Модальности:
Генерация текста
Задача: Генерация текста
Автор: concedo
Теги: phi3, custom_code, text-generation-inference, endpoints_compatible
Лайков: 8 | Загрузок: 9
Описание основано на материалах HuggingFace. Перевод выполнен автоматически.
