Модель генерации текста
Модальности:
Генерация текста
Задача: Генерация текста
Автор: kaist-ai
Теги: llama, text-generation-inference, endpoints_compatible
Лайков: 8 | Загрузок: 6
Описание основано на материалах HuggingFace. Перевод выполнен автоматически.
0. TL;DR 1. Сведения о модели 2. Подробности обучения 3. Использование 4. Оценка 5. Цитирование — Разработчик: https://www.tii.ae...
Qwen1.5 — это бета-версия Qwen2, языковой модели только для декодера на основе преобразователя, предварительно обученной на большом объеме...
### Вся заслуга принадлежит RevEng-24-25 и Квен. Все, что я сделал, это объединил с помощью merge-lora. Эта модель...
Квантование осуществлялось в кастомной ветке autoawq. Гиперпараметры для квантования следующие. Это сработало с использованием vllm. Он может не...
