Эта модель была преобразована в формат GGUF из Failspy/Phi-3-mini-4k-geminified с использованием llama.cpp через пространство GGUF-my-repo ggml.ai. Более подробную информацию о модели можно найти на оригинальной карточке модели. Преобразовать Safetensors в GGUF. https://huggingface.co/spaces/ggml-org/gguf-my-repo. !image/png Шаг 2. Перейдите в папку llama.cpp и создайте ее с флагом LLAMACURL=1 вместе с другими флагами, зависящими от оборудования (например: LLAMACUDA=1 для графических процессоров Nvidia в Linux).
Модальности:
Генерация текста
Области применения:
Генерация кода Диалог / чат Мультиязычность
Задача: Генерация текста
Автор: v8karlo
Теги: gguf, nlp, code, llama-cpp, gguf-my-repo, multilingual, endpoints_compatible, conversational
Лайков: 9 | Загрузок: 845
Описание основано на материалах HuggingFace. Перевод выполнен автоматически.