Мы использовали библиотеку lmeval для проверки моделей. Для каждого размера модели (S, M, L, XL) мы выполнили следующие задачи: MMLU, PIQA, Arc Challenge, Winogrande. — Точность: Точность измеряет долю прогнозов модели, которые точно соответствуют правильным ответам в задачах оценки. Для обслуживания графических процессоров Nvidia мы предоставляем готовые контейнеры Docker с конечными точками API, совместимыми с OpenAI. Используя наши контейнеры, вы можете настроить конечную точку вывода на любом желаемом облачном или бессерверном провайдере, а также на локальных серверах. Вы также можете использовать этот контейнер для выполнения логических выводов через платформу TheStage AI. > Авторизация: строка > > Токен носителя для аутентификации. Должно соответствовать значению AUTHTTOKEN, установленному во время запуска контейнера. > X-Model-Name: строка > > Указывает модель, которая будет использоваться для создания. Формат: mistral-7b-instruct-v0-3—bs, где — один из S, M, L, XL, исходный и максимальный размер пакета, настроенный во время запуска контейнера. Платформа: app.thestage.ai Подписаться на обновления: TheStageAI X Контактный адрес электронной почты__: contact@thestage.ai
Модальности:
Генерация текста
Области применения:
Следование инструкциям
Задача: Генерация текста
Автор: TheStageAI
Теги: zho, eng, fra, spa, por, deu, ita, rus
Лайков: 5 | Загрузок: 25
Описание основано на материалах HuggingFace. Перевод выполнен автоматически.