Merlyn-education-corpus-qa — это модель преобразователя в стиле декодера с 12 битами параметров для сферы образования. Он создан на основе базовой модели Pythia-12b. Merlyn-education-corpus-qa является частью семейства моделей Merlyn Mind, разработанных специально для использования в очном и внеклассном обучении. Merlyn-education-corpus-qa — это модель вопросов и ответов на основе корпуса, которая обосновывает ответы в предоставленных фрагментах информации. Типичный вариант использования — это часть более крупной диалоговой системы, основанной на поиске и основанной на корпусе. Для полной точности модели требуется > 48 ГБ памяти графического процессора. Например, достаточно одного графического процессора A100-80 ГБ. Если вы используете графические процессоры меньшего размера, вам нужен экземпляр с несколькими графическими процессорами и/или пониженной точностью модели (например, используйте model.half() перед переходом на устройство). Мы рекомендуем использовать символ новой строки для критерия остановки, как показано ниже:
Модальности:
Генерация текста
Задача: Генерация текста
Автор: MerlynMind
Теги: gpt_neox, MerlynMind, education, text-generation-inference
Лайков: 12 | Загрузок: 9
Описание основано на материалах HuggingFace. Перевод выполнен автоматически.
