Mamba — это новая архитектура модели пространства состояний, демонстрирующая многообещающую производительность при работе с насыщенными информацией данными, такими как языковое моделирование, где предыдущие субквадратичные модели не дотягивают до Transformers. Он основан на развитии структурированных моделей пространства состояний с эффективным аппаратно-ориентированным дизайном и реализацией в духе FlashAttention. CodeAlpaca_20K: содержит 20 000 данных о выполнении инструкций, используемых для точной настройки модели Code Alpaca.
Модальности:
Генерация текста
Области применения:
Генерация кода Диалог / чат
Задача: Генерация текста
Автор: mrm8488
Теги: conversational, en, code, endpoints_compatible
Лайков: 8 | Загрузок: 11
Описание основано на материалах HuggingFace. Перевод выполнен автоматически.