Квантованные файлы моделей GGUF для фи-2 без цензуры из Walmart-the-bag
Модальности:
Генерация текста
Задача: Генерация текста
Автор: afrideva
Теги: gguf, ggml, quantized, q2_k, q3_k_m, q4_k_m, q5_k_m, q6_k
Лайков: 13 | Загрузок: 400
Описание основано на материалах HuggingFace. Перевод выполнен автоматически.
Исходная модель: https://huggingface.co/mistralai/Ministral-8B-Instruct-2410 Некоторые из этих квантов (Q3KXL, Q4KL и т. д.) представляют собой стандартный метод квантования, в...
Эта модель была преобразована в формат GGUF из ibm-granite/granite-8b-code-instruct с использованием llama.cpp через пространство GGUF-my-repo ggml.ai. Более подробную...
— Вызов функций Llama расширяет возможности моделей Llama 2 с обнимающимся лицом благодаря возможностям вызова функций. — Модель...
Shisa V2 — это семейство двуязычных японских и английских (JA/EN) моделей чата общего назначения, обученных Shisa.AI. Эти модели...
