Мы рады представить Octo-planner, новейший прорыв в области языковых моделей на устройствах от Nexa AI. Octo-planner, разработанный для платформы Planner-Action Agents Framework, обеспечивает быстрое и эффективное планирование без необходимости подключения к облаку. Эта модель вместе с Octopus-V2 может работать на периферийных устройствах локально для поддержки использования AI Agent. — Эффективное планирование: используется точно настроенная модель планирования на основе Phi-3 Mini (3,82 миллиарда параметров) для обеспечения высокой эффективности и низкого энергопотребления. — Agent Framework: разделяет планирование и действие, обеспечивая специализированную оптимизацию и улучшенную масштабируемость. — Повышенная точность: достигает 98,1% успешности планирования на эталонном наборе данных, обеспечивая надежную и эффективную работу. — Работа на устройстве: разработан для периферийных устройств, обеспечивает быстрое время отклика и повышенную конфиденциальность за счет локальной обработки данных. Мы написали 10 описаний Android API, которые будут использоваться для обучения моделей. Подробности см. в этом файле. Ниже приведен пример описания API Android. Подробную информацию об использовании можно найти на нашей странице лицензии. Пожалуйста, цитируйте нашу работу, используя ссылку ниже, в любых академических или исследовательских целях.
Модальности:
Генерация текста
Области применения:
Диалог / чат
Задача: Генерация текста
Автор: NexaAI
Теги: phi3, conversational, custom_code, text-generation-inference, endpoints_compatible
Лайков: 22 | Загрузок: 35
Описание основано на материалах HuggingFace. Перевод выполнен автоматически.
