Разработано @BobaZooba | резюме | LinkedIn | bobazooba@gmail.com Репозиторий GitHub | Подробное пошаговое руководство по обучению этой модели. — Шурале — это модель диалога с открытым доменом для светских бесед. Модель имеет возможность определять характер и ситуацию в разговоре. Это модель 7B, основанная на Mistral-7B-v0.1. Модель была обучена с использованием 1 112 000 диалогов на 10 000 шагов с размером пакета 128. Обучение на 334 миллионах токенов. — Максимальная длина при обучении составила 2048 жетонов — Общая стоимость обучения данной модели всего $58 > Шурале [/ʃʊrɑˈlʲe/] — лесной дух в башкирской и татарской мифологии. Запустите модель как сервис с помощью сервера вывода HuggingFace 🤗: https://github.com/huggingface/text-generation-inference#get-started. Если вы хотите запустить модель в RunPod, вы можете найти готовый к использованию шаблон под названием «Shurale7B-v1» в RunPod. Обратите внимание, что для запуска этого шаблона используется порт 8081. Предлагается установить максимальную длину контекста, например, 10 сообщений. Затем сохраните контекст в каком-либо хранилище данных, например в базе данных. Рекомендуется передать модели повествование и последние 10 сообщений. Таким образом, модель будет стабильно получать…
Модальности:
Генерация текста
Задача: Генерация текста
Автор: BobaZooba
Теги: mistral, en, text-generation-inference, endpoints_compatible
Лайков: 5 | Загрузок: 17
Описание основано на материалах HuggingFace. Перевод выполнен автоматически.
