Proctora — это модель Министерства энергетики, состоящая из — OpenPipe/mistral-ft-optimized-1227 в качестве базовой модели — SanjiWatsuki/Kunoichi-7B в качестве первого эксперта, занимающегося задачами RP. — samir-fama/SamirGPT-v1 в качестве второго эксперта для фактических ответов. Будучи основанным на архитектуре Mixtral, он имеет естественную длину контекста 32 КБ, и это здорово. В таблице лидеров Openllm он набрал 71,88 балла, что в некоторой степени интересно, но на самом деле не отражает предполагаемые возможности модели. Эта модель изначально была создана в результате экспериментов с mergekit. Затем среди моей коллекции LLM Проктора был выбран в качестве «оценщика» в пакете оценки AI-RPG, который я сейчас создаю. Действительно, он получал запланированные оценки в соответствии с заданными рубриками чаще, чем другие «более эффективные» модели в таблице лидеров. Тем не менее, я также тестировал его в различных сценариях RP, используя text-generation-webui (помещая карту персонажа в системные параметры и/или другую информацию о мире), и меня весьма впечатлило качество логики (по сравнению с другими популярными моделями RP). Например, в ней лучше, чем в других моделях, учитывались ограничения специальных полномочий. Или ему удалось проклясть…
Модальности:
Генерация текста
Задача: Генерация текста
Автор: Karko
Теги: mixtral, moe, merge, text-generation-inference, endpoints_compatible
Лайков: 5 | Загрузок: 65
Описание основано на материалах HuggingFace. Перевод выполнен автоматически.
