Сгенерировано с помощью: —wbits 4 —groupsize 128 —true-sequential —new-eval —faster-kernel
Модальности:
Генерация текста
Задача: Генерация текста
Автор: wcde
Теги: llama, endpoints_compatible
Лайков: 4 | Загрузок: 9
Описание основано на материалах HuggingFace. Перевод выполнен автоматически.
Чат и поддержка: сервер Discord TheBloke Хотите внести свой вклад? Страница TheBloke на Patreon Работа TheBloke в области...
Чат и поддержка: сервер Discord TheBloke Хотите внести свой вклад? Страница TheBloke на Patreon Работа TheBloke в области...
Кванты матрицы важности (imatrix) GGUF для https://huggingface.co/abacusai/Smaug-72B-v0.1. Матрица важности была обучена для 100 тыс. токенов (200 пакетов по...
— Размер модели: 360 млн параметров — Архитектура: на основе LLaMA с модификациями MoR — Длина контекста: 1024...
