AzzurroQuantized — это компактная версия модели Azzurro, оптимизированная для повышения эффективности. Он предлагается в двух различных конфигурациях: 4-битной и 8-битной версии, каждая из которых предназначена для поддержания эффективности модели при значительном уменьшении ее размера и вычислительных требований. — Он обучен как на общедоступных наборах данных, таких как SQUAD-it, так и на наборах данных, которые мы создали собственными силами. — он предназначен для понимания и поддержания контекста, что делает его идеальным для задач и приложений с расширенной генерацией данных (RAG), требующих контекстуальной осведомленности. — Он квантуется в 4-битной версии и 8-битной версии в соответствии с описанной здесь процедурой. Мы оценивали модель с использованием тех же наборов тестов, которые использовались для таблицы лидеров Open Ita LLM: AzzurroQuantized и ее исходная модель Azzurro не были согласованы с человеческими предпочтениями в отношении безопасности на этапе RLHF и не применялись с внутриконтурной фильтрацией ответов, такой как ChatGPT, поэтому модель может выдавать проблемные выходные данные (особенно, когда это предлагается сделать). Также неизвестно, какой размер и состав корпуса использовался для обучения базовой модели Mistralai/Mistral-7B-v0.2, однако, вероятно, он включал смесь веб-данных и…
Модальности:
Генерация текста
Области применения:
Диалог / чат
Задача: Генерация текста
Автор: MoxoffSrL
Теги: gguf, mistral, sft, it, chatml, en, endpoints_compatible, conversational
Лайков: 4 | Загрузок: 109
Описание основано на материалах HuggingFace. Перевод выполнен автоматически.
