Repo: roleplaiapp/ALIA-40b-Q80-GGUF Original Model: ALIA-40b Organization: BSC-LT Quantized File: alia-40b-q80.gguf Quantization: GGUF Quantization Method: Q80 Use Imatrix: False Split Model: False` I often have idle A100 GPUs while building/testing and training the RP app, so I put them to use quantizing models. I hope the community finds these quantizations useful.
Модальности:
Генерация текста
Области применения:
Генерация кода Математика Диалог / чат
Задача: Генерация текста
Автор: roleplaiapp
Теги: gguf, llama-cpp, ALIA-40b, Q8_0, 40b, ALIA, 2-bit, BSC-LT
Лайков: 3 | Загрузок: 35
Описание основано на материалах HuggingFace. Перевод выполнен автоматически.
