Эта модель представляет собой доработанную версию mistralai/Mistral-7B-Instruct-v0.2 в наборе данных mentalhealthcounseling_conversations. В оценочном наборе он достигает следующих результатов: — Потеря: 0,6432 Модель Mistral-7B-Instruct-v0.2, настроенная на основе набора бесед о психическом здоровье между психологом и пользователем. Намерение состояло в том, чтобы создать помощника по психическому здоровью «Коннор», который отвечал бы на вопросы пользователей на основе ответов психолога. Модель настроена на базе бесед о психическом здоровье между психологом и клиентом в форме пар контекст-реакция. Этот набор данных представляет собой набор вопросов и ответов, полученных с двух платформ онлайн-консультирования и терапии. Вопросы охватывают широкий спектр тем психического здоровья, а ответы дают квалифицированные психологи. Набор данных найден здесь: — Kaggle Huggingface Во время обучения использовались следующие гиперпараметры: — скорость обучения: 0,0002 — trainbatchsize: 8 — evalbatchsize: 8 — начальное число: 42 — оптимизатор: Адам с betas=(0,9,0,999) и epsilon=1e-08 — lrschedulertype: cosine — lrschedulerwarmupratio: 0,05 — количество эпох: 3 — mixprecision_training: Native AMP — PEFT 0.7.1 — Трансформеры 4.36.1 -…
Модальности:
Генерация текста
Области применения:
Диалог / чат Следование инструкциям
Задача: Генерация текста
Автор: GRMenon
Теги: peft, generated_from_trainer, mistral, Inference Endpoints, text-generation-inference, conversational
Лайков: 41 | Загрузок: 60
Описание основано на материалах HuggingFace. Перевод выполнен автоматически.
