Этот репозиторий содержит файлы моделей формата GGUF для Youtu-LLM-2B от Tencent. Youtu-LLM-2B — это высокоэффективная модель с параметрами 1,96 байт, имеющая архитектуру Dense MLA и собственное контекстное окно размером 128 КБ. Несмотря на свой небольшой размер, он поддерживает агентные возможности и «режим рассуждения» (цепочку мыслей), превосходя многие более крупные модели в STEM, кодировании и агентных тестах. Чтобы просмотреть доступные файлы, перейдите на вкладку «Файлы и версии». Рекомендуемые параметры: Эта модель поддерживает два режима. Отрегулируйте температуру соответствующим образом: Режим рассуждения (CoT): Температура 1,0 (рекомендуется для сложной логики/математики). Обычный режим: температура 0,7 (рекомендуется для чата/стабильности). Контекст: -c` (поддерживается до 131072).
Модальности:
Генерация текста
Области применения:
Генерация кода Диалог / чат
Задача: Генерация текста
Автор: AaryanK
Теги: gguf, text-generation-inference, agent, code, 128k, mla, en, zh
Лайков: 11 | Загрузок: 86
Описание основано на материалах HuggingFace. Перевод выполнен автоматически.
