Эта модель была преобразована в формат GGUF из Nanbeige/Nanbeige4.1-3B с использованием llama.cpp через пространство GGUF-my-repo ggml.ai. Более подробную информацию о модели можно найти на оригинальной карточке модели. Шаг 2. Перейдите в папку llama.cpp и создайте ее с флагом LLAMACURL=1 вместе с другими флагами, зависящими от оборудования (например: LLAMACUDA=1 для графических процессоров Nvidia в Linux).
Модальности:
Генерация текста
Области применения:
Диалог / чат
Задача: Генерация текста
Автор: Edge-Quant
Теги: gguf, llm, nanbeige, llama-cpp, gguf-my-repo, en, zh, endpoints_compatible
Лайков: 6 | Загрузок: 1,542
Описание основано на материалах HuggingFace. Перевод выполнен автоматически.
