Модель «Домашняя» представляет собой доработку модели Phi-1.5 от Microsoft. Модель способна управлять устройствами в доме пользователя посредством интеграции Home Assistant. Набор данных для точной настройки — это специально подобранный набор данных, предназначенный для обучения вызову функций модели. Модель квантуется с помощью Lama.cpp, чтобы ее можно было запускать в средах со сверхнизким ресурсом, которые часто встречаются в установках Home Assistant, таких как Rapsberry Pis. Модель можно использовать как модель типа «инструктирование» с использованием формата приглашения ChatML. Системный запрос используется для предоставления информации о состоянии установки Home Assistant, включая доступные устройства и вызываемые службы. Выходные данные модели будут состоять из ответа, который должен быть передан обратно пользователю, вместе с дополнительным блоком кода, который будет вызывать различные «службы» Home Assistant. Формат вывода модели для вызова функции следующий: homeassistant { «service»: «light.turnon», «targetdevice»: «light.kitchen» } « Модель обучалась как полная доводка на RTX 3090 (24 ГБ). Он был обучен примерно в 2 раза больше токенов, чем версия модели v1. Эта модель получила оценку 88,52% при вызове функций JSON…
Модальности:
Генерация текста
Задача: Генерация текста
Автор: acon96
Теги: gguf, automation, home, assistant, en, endpoints_compatible
Лайков: 5 | Загрузок: 79
Описание основано на материалах HuggingFace. Перевод выполнен автоматически.
