Модель mlx-community/gemma-3-1b-it-qat-4bit была преобразована в формат MLX из google/gemma-3-1b-it-qat-q40 с использованием mlx-lm версии 0.22.5**.
Модальности:
Генерация текста
Области применения:
Диалог / чат
Задача: Генерация текста
Автор: mlx-community
Теги: gemma3_text, mlx, conversational, text-generation-inference, endpoints_compatible, 4-bit
Лайков: 5 | Загрузок: 33,358
Описание основано на материалах HuggingFace. Перевод выполнен автоматически.
Чат и поддержка: мой новый сервер Discord Хотите внести свой вклад? Страница TheBloke на Patreon Это файлы моделей...
Модель HPC-Coder-v2-1.3b представляет собой LLM-код HPC, настроенный на наборе данных инструкций и отвечающий общим темам HPC, таким как...
> ! Важное примечание! > > Ниже представлена реализация ВЧ трансформаторов модели EagleX 7B 2.25T. Это предназначено для...
Исходная модель: https://huggingface.co/allenai/Llama-3.1-Tulu-3-8B-DPO Некоторые из этих квантов (Q3KXL, Q4KL и т. д.) представляют собой стандартный метод квантования, в...
