qCammel-13 — это доработанная версия модели Llama-2 13B, обученная на дистиллированном наборе данных из 15 000 инструкций с использованием QLoRA. Эта модель оптимизирована для академических медицинских знаний и возможностей выполнения инструкций. Процесс тонкой настройки, примененный к qCammel-13, включает в себя набор данных из 15 000 инструкций и обучается с помощью QLoRA. Вариации. Оригинальный Llama 2 имеет размеры параметров 7B, 13B и 70B. Это доработанная версия модели 13В. Архитектура модели qCammel-13 основана на архитектуре Llama 2, авторегрессионной языковой модели, которая использует архитектуру преобразователя только декодера. Лицензия Пользовательская коммерческая лицензия доступна по адресу: https://ai.meta.com/resources/models-and-libraries/llama-downloads/ Llama 2 лицензируется в соответствии с лицензией сообщества LLAMA 2, авторские права © Meta Platforms, Inc. Все права защищены. Исследовательские работы — Clinical Camel: модель медицинского языка экспертного уровня с открытым исходным кодом и диалоговым кодированием знаний — QLoRA: эффективная точная настройка квантованных LLM — LLaMA: открытые и эффективные модели базового языка
Модальности:
Генерация текста
Задача: Генерация текста
Автор: augtoma
Теги: llama, llama-2, qCammel-13, en, text-generation-inference
Лайков: 11 | Загрузок: 1,023
Описание основано на материалах HuggingFace. Перевод выполнен автоматически.
