Этот репозиторий содержит несколько квантованных версий модели GPT-OSS-10B в формате GGUF. Он предназначен для эффективного вывода данных о потребительском оборудовании, что делает развертывание больших моделей более доступным. — Разработано: leeminwaan — Финансируется [необязательно]: Независимый проект — Совместно используется [необязательно]: leeminwaan — Тип модели: языковая модель преобразователя только для декодера — Язык(и) (NLP): английский (основной), многоязычные возможности не тестировались — Лицензия: Apache-2.0 — Доработано на основе модели [необязательно]: openai/gpt-oss-20b (посредством обрезки и экспертного выбора) — Репозиторий: Репозиторий Hugging Face — Бумага [необязательно]: недоступно — Демо [необязательно]: будет выпущено — Генерация текста — Экспериментирование с форматами квантования — Выполнение тестов на малоресурсном оборудовании — Точная настройка для чат-ботов, классификации, обобщения или исследовательских проектов — Интеграция в облегченные конвейеры вывода — Принятие важных решений (медицинских, юридических, финансовых) — Модерация контента без дальнейшей тонкой настройки — Приложения, требующие гарантированной фактической точности — Могут воспроизводить социальные данные систематические отклонения от обучающих данных — Ограниченная оценка многоязычного или предметно-ориентированного текста — Квантование может ухудшить…
Модальности:
Генерация текста
Области применения:
Диалог / чат
Задача: Генерация текста
Автор: leeminwaan
Теги: gguf, endpoints_compatible, conversational
Лайков: 5 | Загрузок: 567
Описание основано на материалах HuggingFace. Перевод выполнен автоматически.
