PermanentMind — это межъязыковая персидско-английская модель большого языка. Модель достигает самых современных результатов в персидском подмножестве теста Belebele и задаче контроля качества с множественным выбором ParsiNLU. Он также достигает производительности, сравнимой с GPT-3.5-turbo, в задаче на понимание прочитанного на персидском языке. — Разработчики: Педрам Ростами, Али Салеми и Мохаммад Джавад Дусти — Тип модели: Языковая модель — Языки: английский и персидский — Лицензия: CC BY-NC-SA 4.0 (только для некоммерческого использования). Используйте приведенный ниже код, чтобы начать работу с моделью. Обратите внимание, что для запуска этого кода вам необходимо установить библиотеки предложения и ускорения вместе с PyTorch и 🤗Transformers. Квантованные модели можно запускать на устройствах с ограниченными ресурсами. Для квантования модели необходимо установить библиотеку bitsandbytes. Чтобы квантовать модель в 8-битном формате (INT8), используйте приведенный ниже код. Альтернативно вы можете квантовать модель в 4-битном формате (NormalFloat4) с помощью следующего кода. Мы сравнивали квантованные модели в различных задачах с исходной моделью. В частности, мы оценили все модели, используя тест на понимание прочитанного с множественным выбором ответов на вопросы Белебеле (персидское подмножество) и сообщили о точности каждого…
Модальности:
Генерация текста
Области применения:
Мультиязычность
Задача: Генерация текста
Автор: universitytehran
Теги: llama, text-generation-inference, multilingual, fa, en, co2_eq_emissions
Лайков: 70 | Загрузок: 664
Описание основано на материалах HuggingFace. Перевод выполнен автоматически.
