Sdff-Ltba/LightChatAssistant-2x7BをGGUF変換したものです。ファイル名にimatrixが付いているものはiMatrixを併用して量子化しています。 — Процессор: Ryzen 5 5600X — Графический процессор: GeForce RTX 3060 12 ГБ — Оперативная память: DDR4-3200 96 ГБ — ОС: Windows 10 — программное обеспечение: Python 3.12.2、KoboldCpp v1.62.2 (デフォルトから変更したもののみ記載) — уровни графического процессора: 33 (33以上でフルロード) – Размер контекста: 32768
Модальности:
Генерация текста
Области применения:
Диалог / чат
Задача: Генерация текста
Автор: Sdff-Ltba
Теги: gguf, mistral, mixtral, merge, moe, not-for-all-audiences, nsfw, ja
Лайков: 16 | Загрузок: 120
Описание основано на материалах HuggingFace. Перевод выполнен автоматически.
