Этот репозиторий содержит файлы модели формата GGUF для чата CYFRAGOVPL/Llama-PLLuM-8B. Файлы были квантованы с использованием машин, предоставленных TensorBlock, и они совместимы с llama.cpp по состоянию на commit b4823. Формирование совместимого с OpenAI уровня маршрутизации с несколькими поставщиками. 🚀 Попробуйте сейчас! 🚀 Потрясающие серверы MCP TensorBlock Studio Полная коллекция серверов протокола контекста модели (MCP). Легкая, открытая и расширяемая студия мульти-LLM-взаимодействия. 👀 Посмотрите, что мы построили 👀 👀 Посмотрите, что мы построили 👀 Затем загрузите отдельный файл модели в локальный каталог Если вы хотите загрузить несколько файлов модели с шаблоном (например, Q4Kgguf), вы можете попробовать:
Модальности:
Генерация текста
Области применения:
Диалог / чат
Задача: Генерация текста
Автор: tensorblock
Теги: gguf, TensorBlock, GGUF, pl, endpoints_compatible, conversational
Лайков: 3 | Загрузок: 120
Описание основано на материалах HuggingFace. Перевод выполнен автоматически.
