uukuguy/CollectiveCognition-v1.1-Mistral-7B-dare-0.85 - Каталог нейросетей
Генерация текста

uukuguy/CollectiveCognition-v1.1-Mistral-7B-dare-0.85

Добавлено:

AWQ model(s) for GPU inference. GPTQ models for GPU inference, with multiple quantisation parameter options. * 2, 3, 4, 5, 6 and 8-bit GGUF models for CPU+GPU inference Experiment for DARE(Drop and REscale), most of the delta parameters can be directly set to zeros without affecting the capabilities of SFT LMs and larger models can tolerate a higher proportion of discarded parameters. weightmaskrate: 0.85 / useweightrescale: True / maskstratery: random / scalingcoefficient: 1.0

Модальности:
Генерация текста


Задача: Генерация текста
Автор: uukuguy
Теги: mistral, text-generation-inference, endpoints_compatible
Лайков: 2  |  Загрузок: 50

Открыть на HuggingFace →

Описание основано на материалах HuggingFace. Перевод выполнен автоматически.