Эта модель была преобразована в формат GGUF из Nanbeige/Nanbeige4-3B-Thinking-2511 с помощью llama.cpp через пространство ggml.ai GGUF-my-repo. Обратитесь к оригинальной карточке модели для получения более подробной информации о модели. Шаг 2: Переместитесь в папку llama.cpp и создайте ее с флагом LLAMACURL=1 вместе с другими аппаратными флагами (например, LLAMACUDA =1 для графических процессоров Nvidia в Linux).
Модальности:
Генерация текста
Области применения:
Диалог / чат
Задача: Генерация текста
Автор: NikolayKozloff
Теги: gguf, llm, nanbeige, llama-cpp, gguf-my-repo, en, zh, endpoints_compatible
Лайков: 3 | Загрузок: 24
Описание основано на материалах HuggingFace. Перевод выполнен автоматически.
