Этот репозиторий содержит квантованные версии Jais-2-8B-Chat GGUF для использования с llama.cpp и совместимыми механизмами вывода. — Рекомендуемый формат: Q4KM или Q80 для наилучшего компромисса между качеством и размером. — Варианты K-кванта (Q3KM, Q4KM, Q5KM): при использовании разгрузки графического процессора требуется флаг -b n`, с n. В целом, наши результаты показывают, что: — Jais-2-8B обеспечивает конкурентоспособную производительность при выполнении инструкций на арабском и английском языках в рамках IFEval. — Jais-2-8B достигает самых высоких результатов почти по всем показателям AraGen, превосходя Fanar-1-9B-Instruct и ALLaM-7B в генеративных задачах на арабском языке. — Академические науки: исследователи, занимающиеся НЛП на арабском языке, многоязычным моделированием или культурным соответствием. — Предприятия: компании, ориентированные на арабоязычные рынки. — Разработчики и инженеры машинного обучения: интеграция возможностей арабского языка в приложения и рабочие процессы. — Исследования: — Понимание естественного языка и задачи генерации. — Проведение анализа интерпретируемости или межъязыкового соответствия. — Исследование арабских лингвистических или культурных моделей. Обобщение или обработка двуязычного арабско-английского…
Модальности:
Генерация текста
Области применения:
Диалог / чат
Задача: Генерация текста
Автор: inceptionai
Теги: gguf, llama.cpp, ar, en, endpoints_compatible, conversational
Лайков: 5 | Загрузок: 386
Описание основано на материалах HuggingFace. Перевод выполнен автоматически.
