Это тонкая настройка https://huggingface.co/TinyLlama/TinyLlama-1.1B-intermediate-step-1431k-3T, обученная на небольшом подмножестве набора данных Kobble размером 50 МБ. Обучение проводилось менее чем за 2 часа на одном мобильном графическом процессоре Nvidia RTX 2060 с qLora (LR 1.5e-4, ранг 8, альфа 16, размер пакета 2, градиент согласно 4, 2048 ctx). Вы можете получить квантование GGUF этой модели здесь: https://huggingface.co/concedo/KobbleTinyV2-1.1B-GGUF Попробуйте прямо сейчас: https://concedo-koboldcpp-kobbletiny.hf.space/ Набор данных Kobble — это получастный агрегированный набор данных, созданный из нескольких онлайн-источников и веб-скребков. Он содержит контент, выбранный и отформатированный специально для работы с программным обеспечением KoboldAI и Kobold Lite. — Инструктирование: примеры инструкций по одному ходу, представленные в формате Альпака, с упором на ответы без цензуры и неограниченных ограничений. — Чат: журналы разговоров двух участников в формате многоходового необработанного чата, который использует KoboldAI. — Сюжет: Неструктурированные отрывки художественной литературы, включая литературу, содержащую различный эротический и провокационный контент.
Модальности:
Генерация текста
Задача: Генерация текста
Автор: concedo
Теги: llama, en, text-generation-inference, endpoints_compatible
Лайков: 12 | Загрузок: 97
Описание основано на материалах HuggingFace. Перевод выполнен автоматически.
