Цель TinyAgent — обеспечить возможности комплексного рассуждения и вызова функций в моделях малого языка (SLM), которые можно безопасно и конфиденциально развернуть на периферии. Традиционные модели больших языков (LLM), такие как GPT-4 и Gemini-1.5, хотя и мощные, часто слишком велики и ресурсоемки для периферийного развертывания, что создает проблемы с точки зрения конфиденциальности, подключения и задержки. TinyAgent решает эти проблемы, обучая специализированных SLM высококачественным тщательно подобранным данным и уделяя особое внимание вызову функций с помощью LLMCompiler. В качестве управляющего приложения TinyAgent может взаимодействовать с различными приложениями MacOS, помогая пользователям выполнять повседневные задачи, такие как составление электронных писем, управление контактами, планирование событий календаря и организация собраний Zoom. Разработчики моделей: Squeeze AI Lab в Калифорнийском университете в Беркли. Варианты: модели TinyAgent бывают двух размеров: TinyAgent-1.1B и TinyAgent-7B. Подробную информацию о том, как использовать модели TinyAgent, можно найти на нашем Github. Модели TinyAgent можно использовать программно или через наш пользовательский интерфейс. Набор данных: мы собрали набор данных из 40 000 реальных случаев использования. Мы используем GPT-3.5-Turbo для генерации реальных инструкций. Затем они используются для получения…
Модальности:
Генерация текста
Задача: Генерация текста
Автор: squeeze-ai-lab
Теги: llama, function calling, on-device language model, en, text-generation-inference
Лайков: 20 | Загрузок: 97
Описание основано на материалах HuggingFace. Перевод выполнен автоматически.
