Эта модель была конвертирована в формат MLX из [google/gemma-7b-it](). Более подробную информацию о модели можно найти на оригинальной карточке модели.
Модальности:
Генерация текста
Области применения:
Диалог / чат
Задача: Генерация текста
Автор: mitkox
Теги: gemma, mlx, conversational, text-generation-inference, endpoints_compatible
Лайков: 4 | Загрузок: 107
Описание основано на материалах HuggingFace. Перевод выполнен автоматически.
Этот квант изменил часть кода модели, чтобы устранить проблему переполнения при использовании float16. Для обслуживания с использованием vLLM...
pip install git+https://github.com/huggingface/transformers.git У нас есть ноутбук Google Colab Tesla T4 для Gemma 2 (9B) здесь: https://colab.research.google.com/drive/1vIrqH5uYDQwsJ4-OO3DERvuv4pBgVwk4?usp=sharing Все...
Модель генерации текста Модальности:Генерация текста Задача: Генерация текста Автор: TehVenom Теги: llama, endpoints_compatibleЛайков: 9 | Загрузок: 10 Открыть...
Легкая вытяжная головка EAGLE3 для MiniMax-M2.5 (229B MoE, ~10B активных параметров). Обучение проходило в SpecForge на 8 графических...
