Этот репозиторий содержит файлы моделей формата GGUF для nvidia/Llama-3.1-Nemotron-Nano-8B-v1. Файлы были квантованы с использованием машин, предоставленных TensorBlock, и они совместимы с llama.cpp на момент фиксации b4882. Forge OpenAI-совместимый уровень маршрутизации с несколькими провайдерами. 🚀 Попробуйте прямо сейчас! 🚀 Потрясающие серверы MCP TensorBlock Studio Полная коллекция серверов протокола контекста модели (MCP). Легкая, открытая и расширяемая студия взаимодействия с несколькими LLM. 👀 Посмотрите, что мы создали 👀 👀 Посмотрите, что мы создали 👀 Затем загрузите отдельный файл модели в локальный каталог. Если вы хотите загрузить несколько файлов модели с шаблоном (например, Q4Kgguf), вы можете попробовать:
Модальности:
Генерация текста
Области применения:
Диалог / чат
Задача: Генерация текста
Автор: tensorblock
Теги: gguf, nvidia, llama-3, TensorBlock, GGUF, en, endpoints_compatible, conversational
Лайков: 6 | Загрузок: 45
Описание основано на материалах HuggingFace. Перевод выполнен автоматически.
