Обновление 250114: теперь появился новый посыльный с mistral-7b-instruct-v3: https://huggingface.co/neph1/bellman-mistral-7b-instruct-v0.3 Обновлено 240413: Набор данных: 14002 строки. Ранг: 64/128. Повышенное разнообразие набора данных инструкций. Обучение длине контекста 4К. Легкий проход DPO, позволяющий «выровнять» модель и сделать ее менее склонной к высказыванию ложных сведений. Ссылка: https://huggingface.co/datasets/neph1/truthy-dpo-v0.1-swe Qlora тренировалась в течение ~ 2 эпох на 14 тысячах строк вопросов и ответов, примерах Python и общих вопросах типа «инструкт». Цель – улучшить знания по шведским темам, одновременно улучшая качество языка. Название происходит от шведского барда и поэта Карла Микаэля Беллмана, жившего в 1700-х годах. Как и в случае с любым бардом, к тому, что говорит эта модель, следует относиться с недоверием. Хоть и имеет самые благие намерения. Некоторые (отобранные, но не слишком) примеры с использованием последней версии (некоторые были еще до прохождения DPO): Системное приглашение: «Du är en ai-assistent som talar Flytande Svenska. Du är hjälpsam och svarar alltid tydligt på användarens frågor». (Более длинная подсказка с правильным шведским языком, скорее всего, еще больше улучшит результат) Q8_0, температура: 0,5 {{[INPUT]}} Kan du berätta hur…
Модальности:
Генерация текста
Области применения:
Диалог / чат Следование инструкциям
Задача: Генерация текста
Автор: neph1
Теги: gguf, mistral, conversational, sv, text-generation-inference, endpoints_compatible
Лайков: 12 | Загрузок: 312
Описание основано на материалах HuggingFace. Перевод выполнен автоматически.
