Это mistralai/Mistral-7B-v0.1, с настройкой инструкций, выполненной с использованием набора данных Garage-bAInd/Open-Platypus. На момент написания статьи архитектура Mistral требует установки трансформаторов из источника. После этого загрузите, как любую другую модель. — Хотя модель мистраля очень впечатляет своими размерами, особенно в тестах, внимание к скользящему окну и/или размер модели влияют на ее конкурентоспособность по сравнению с другими методами расширения контекста, применяемыми к более крупным вариантам ламы2 и ламы. Это больше связано с вниманием к скользящему окну или с размером модели?
Модальности:
Генерация текста
Задача: Генерация текста
Автор: bhenrym14
Теги: mistral, text-generation-inference, endpoints_compatible
Лайков: 5 | Загрузок: 62
Описание основано на материалах HuggingFace. Перевод выполнен автоматически.
