— Всего через два дня после выпуска Mistral-22b-v0.1 мы рады представить созданную вручную экспериментальную модель Mistral-22b-v.02. Эта модель представляет собой кульминацию равных знаний, собранных от всех экспертов в единую плотную модель 22b. Эта модель не представляет собой один обученный эксперт, а представляет собой сжатую модель MOE, превращающую ее в плотный режим 22b. Это первое работающее преобразование модели MOE в Dense. — Версия 0.2 обучила в 8 раз больше данных, чем версия 0.1! — Знание математики: модель демонстрирует сильные математические способности. Несмотря на отсутствие математического образования. — Лучше в кодировании. Модель значительно лучше кодирует, чем V1, она прошла некоторые из моих простых тестов кодирования, таких как «Создать простой HTML-сайт с кнопкой, которая меняет цвет фона на случайный цвет», который V1 не прошел. — Более сплоченность Эта модель V2 значительно более сплочена и лучше понимает подсказки и дает соответствующий ответ. — Высокая степень отсутствия цензуры. Поскольку эта модель также была переоборудована для работы без цензуры, она может просто ответить на все, что вы спросите. Поэтому используйте на свой страх и риск, мы не несем ответственности за ваши ответы. — Multi Turn Набор данных, на котором тренировалась эта модель, в основном состоял из…
Модальности:
Генерация текста
Задача: Генерация текста
Автор: Vezora
Теги: mistral, text-generation-inference, endpoints_compatible
Лайков: 112 | Загрузок: 27
Описание основано на материалах HuggingFace. Перевод выполнен автоматически.
