DanTagGen (генератор тегов Danbooru) создан на основе дартс-проекта p1atdev. Но с другой аркой, набором данных, форматом и другой стратегией обучения. альфа: предварительное обучение на наборе данных 2M, меньший размер пакета. Бета-версия с ограниченными возможностями: предварительное обучение на наборе данных 5,3 млн, больший размер пакета. Более стабильная, лучшая способность при предоставлении лишь небольшого количества информации. Эта версия DTG обучена с нуля с параметром 400M арки LLaMA. (По моему личному предпочтению я назову ее NanoLLaMA) Так как это арка ламы. Теоретически его можно использовать в любом интерфейсе вывода LLaMA. В этом репозитории также представлены конвертированные модели gguf FP16 и квантованные 8-битные/6-битные модели gguf. В основном для запуска этой модели рекомендуется использовать llama.cpp или llama-cpp-python. Что будет очень быстро. Для проведения обучения я использую тренер, который я внедрил в HakuPhi. с 10 эпохой на 5,3 млн данных. В этой модели обнаружено примерно 6–12 миллиардов токенов. Набор данных экспортируется HakuBooru с моей базой данных sqlite danbooru. Используйте процентиль fav_count для каждого рейтинга, чтобы фильтровать данные. (2M = верхние 25%, 5,3M = верхние 75%) Я реализую градиентный пользовательский интерфейс для этой штуки, и другие разработчики могут использовать API в нем для создания других приложений. Я тоже планирую сделать sd-webui…
Модальности:
Генерация текста
Задача: Генерация текста
Автор: KBlueLeaf
Теги: gguf, llama, not-for-all-audiences, art, en, text-generation-inference, endpoints_compatible
Лайков: 76 | Загрузок: 8,363
Описание основано на материалах HuggingFace. Перевод выполнен автоматически.