💵 Сделайте пожертвование в пользу OpenAccess AI Collective, чтобы помочь нам продолжать создавать отличные инструменты и модели! Мантикора доступна по адресу https://huggingface.co/openaccess-ai-collective/manticore-13b и исправляет многие проблемы с Wizard Mega, а также добавляет новые наборы данных в обучение. Wizard Mega — это модель Llama 13B, настроенная на наборах данных ShareGPT, WizardLM и Wizard-Vicuna. Все эти конкретные наборы данных были отфильтрованы для удаления ответов, в которых модель отвечает «Как модель языка искусственного интеллекта…» и т. д. или когда модель отказывается отвечать. Опробуйте модель в HF Spaces. В демонстрации используется квантованная версия модели GGML для быстрого получения прогнозов на небольших графических процессорах (и даже на центральных процессорах). Квантованный GGML может иметь минимальную потерю качества модели. — https://huggingface.co/spaces/openaccess-ai-collective/wizard-mega-ggml Модель Wizard Mega 13B SFT выпускается после двух эпох, поскольку потеря оценки увеличилась в течение третьей (последней запланированной эпохи). По этой причине мы предварительно решили использовать контрольную точку эпохи 2 в качестве окончательного кандидата на релиз. https://wandb.ai/wing-lian/vicuna-13b/runs/5uebgm49 Wizard Mega был собран с помощью Axolotl на 8xA100 80 ГБ за 15 часов. Конфигурация для дублирования этой сборки…
Модальности:
Генерация текста
Задача: Генерация текста
Автор: openaccess-ai-collective
Теги: llama, en, text-generation-inference, endpoints_compatible
Лайков: 106 | Загрузок: 1,610
Описание основано на материалах HuggingFace. Перевод выполнен автоматически.
