Это квантованная версия FreedomIntelligence/HuatuoGPT-o1-7B, созданная с использованием llama.cpp HuatuoGPT-o1 — это медицинский LLM, предназначенный для передовых медицинских рассуждений. Он генерирует сложный мыслительный процесс, отражая и уточняя свои рассуждения, прежде чем дать окончательный ответ. Вы можете использовать HuatuoGPT-o1-7B так же, как Qwen2.5-7B-Instruct. Вы можете развернуть его с помощью таких инструментов, как vllm или Sglang, или выполнить прямой вывод: HuatuoGPT-o1 использует подход «думай, прежде чем отвечать», с выходными данными в следующем формате:
Модальности:
Генерация текста
Области применения:
Диалог / чат Медицина
Задача: Генерация текста
Автор: QuantFactory
Теги: gguf, medical, en, zh, endpoints_compatible, conversational
Лайков: 6 | Загрузок: 114
Описание основано на материалах HuggingFace. Перевод выполнен автоматически.
