Модель генерации текста
Модальности:
Генерация текста
Области применения:
Медицина Биология Диалог / чат
Задача: Генерация текста
Автор: QuantFactory
Теги: gguf, biology, medical, en, model-index, endpoints_compatible
Лайков: 3 | Загрузок: 47
Описание основано на материалах HuggingFace. Перевод выполнен автоматически.
Chat & support: TheBloke’s Discord server Want to contribute? TheBloke’s Patreon page TheBloke’s LLM work is generously supported...
0. TL;DR 1. Подробности модели 2. Подробности обучения 3. Использование 4. Оценка 5. Цитирование — Разработано: https://www.tii.ae —...
— Базовая модель: Qwen/Qwen2-0.5B-Instruct — Модель учителя: Qwen/QwQ-32B-Preview — Структура дистилляции: генеративная дистилляция знаний (GKD) — Тип задачи:...
— Q80 (36,9 ГБ): Наиболее близок к полной точности. Используйте, если у вас есть VRAM/RAM. — Q6K/Q5KM (28,5/24,7...
