DataLinguistic-70B-4bit-V1.0 — это китайско-английская модель ответов на вопросы, доработанная на основе модели Huggingface Llama-2-70b-chat-hf с 4-битным квантованием на собственных наборах данных DataLinguistic. DataLinguistic-70B-4bit-V1.0 наследует структуру кодировщика-декодера от Llama с параметрами 70B. Кроме того, перед точной настройкой он квантуется до 4-битной точности. Модель была обучена на следующих наборах данных с открытым исходным кодом: — DataOpenSet: китайско-английский набор данных для ответов на вопросы, полученный из Junelee/wizardvicuna70k — DataOpenSet2: китайско-английский набор данных для ответов на вопросы, созданный из Garage-bAInd/Open-Platypus — Собственный китайско-английский набор данных для ответов на вопросы, собранный внутри компании DataLinguistic (не в открытом доступе) , пожалуйста, ответьте на мой вопрос в datalynn модель: {вопрос} ANS: {ответ} Модель можно использовать для широкого спектра китайско-английских приложений для ответов на вопросы и чат-ботов. — На основе огромной модели Llama-70b с параметрами 70B — 4-битное квантование сокращает объем вычислений — Точная настройка на крупномасштабных китайско-английских наборах данных контроля качества для обеспечения высокого качества 1. Установите модель из Huggingface 2. Импортируйте и инициализируйте модель 3. Введите вопрос, сгенерируйте ответ…
Модальности:
Генерация текста
Задача: Генерация текста
Автор: DataLinguistic
Теги: llama, text-generation-inference, endpoints_compatible
Лайков: 5 | Загрузок: 0
Описание основано на материалах HuggingFace. Перевод выполнен автоматически.
