GGUF здесь: https://huggingface.co/mradermacher/Quill-v1-GGUF Quill — это способная человекоподобная модель письма, обученная на большом наборе данных письменности конца 19-го и начала 20-го века из проекта Гутенберга. Эта модель пишет с естественным ритмом и низким значением gpt, унаследовав некоторые человеческие качества из набора данных Gutenberg3. Он пишет более простой и скудной прозой, чем типичный стиль письма LLM с чрезмерно прилагательными. Эта модель была обучена с использованием gemma-2-9b-it в качестве основы. Использовались методы обучения: ОРПО (мягкий), затем СИМПО (менее щадящий). Gutenberg3 — это новый большой набор данных dpo, содержащий выдержки из 629 художественных романов, являющихся общественным достоянием, из библиотеки Гутенберга. Он соответствует тому же формату, что и оригинальный набор Гутенберга JonDurbin. В него входят пары текстов, где выбранный текст берется непосредственно из романа из библиотеки Гутенберга, а отклоненный текст генерируется языковой моделью на основе описания отрывка. Для этого набора данных я использовал gemma-2-9b-it для генерации отклоненных текстов, идея заключалась в том, что это должно легче отклонить базовую модель от ее обычного стиля (по сравнению с генерацией отклоненных текстов со случайными/более слабыми моделями). Романтика: Любовь в…
Модальности:
Генерация текста
Области применения:
Диалог / чат
Задача: Генерация текста
Автор: sam-paech
Теги: gemma2, creative-writing, gutenberg, conversational, text-generation-inference, endpoints_compatible
Лайков: 19 | Загрузок: 46
Описание основано на материалах HuggingFace. Перевод выполнен автоматически.
