Курируют и обучают Эрик Хартфорд, Лукас Аткинс, Фернандо Фернандес и при поддержке сообщества Cognitive Computations. Мы выражаем признательность спонсорам Dolphin 2.9: — Crusoe Cloud — предоставил превосходный 8xL40Snode по требованию. Эта модель использует репликацию слоев PEFT во время вывода для дублирования слоев и увеличения количества параметров. Это работает как с объединенной моделью, которая поставляется с этим репозиторием, так и с подключенным адаптером. Производительность будет одинаковой при использовании обоих методов, но использование видеопамяти при использовании адаптера будет значительно меньше. Эта модель была инициализирована с использованием Mistralfied Phi-3-Instruct-4k от Unsloth. Если вы решите использовать метод адаптера, прикрепите его к своей модели. Эта модель основана на Phi-3-Mini-Instruct-4k и регулируется лицензией MIT, по которой Microsoft выпустила Phi-3. Базовая модель имеет контекст 4 КБ, а точная настройка qLoRA осуществлялась с длиной последовательности 4 КБ. Dolphin-2.9.1 обладает разнообразными навыками обучения, общения и программирования. Он также имеет начальные агентные способности и поддерживает вызов функций. Мы отфильтровали набор данных, чтобы удалить выравнивание и предвзятость. Это делает модель более совместимой. Рекомендуется реализовать…
Модальности:
Генерация текста
Области применения:
Диалог / чат
Задача: Генерация текста
Автор: dphn
Теги: mistral, conversational, en, text-generation-inference, endpoints_compatible
Лайков: 31 | Загрузок: 31
Описание основано на материалах HuggingFace. Перевод выполнен автоматически.
