Модель «Домашняя» является тонкой доработкой модели TinyLlama-1.1B-Chat-v1.0. Модель способна управлять устройствами в доме пользователя посредством интеграции Home Assistant. Набор данных для точной настройки — это специально подобранный набор данных, предназначенный для обучения вызову функций модели. Модель квантуется с помощью Lama.cpp, чтобы ее можно было запускать в средах со сверхнизким ресурсом, которые часто встречаются в установках Home Assistant, таких как Rapsberry Pis. Модель можно использовать как модель типа «инструктирование» с использованием формата подсказок Zephyr. Системный запрос используется для предоставления информации о состоянии установки Home Assistant, включая доступные устройства и вызываемые службы. Выходные данные модели будут состоять из ответа, который должен быть передан обратно пользователю, вместе с дополнительным блоком кода, который будет вызывать различные «службы» Home Assistant. Формат вывода модели для вызова функции следующий: homeassistant { «service»: «light.turnon», «targetdevice»: «light.kitchen» } « Модель обучалась как полная доводка на RTX 3090 (24 ГБ). Эта модель достигает 98,16% оценки точности вызова функций JSON в тестовом наборе данных. Модель v2 получила оценку 88,52%…
Модальности:
Генерация текста
Области применения:
Диалог / чат
Задача: Генерация текста
Автор: acon96
Теги: gguf, llama, automation, home, assistant, conversational, en, text-generation-inference
Лайков: 11 | Загрузок: 485
Описание основано на материалах HuggingFace. Перевод выполнен автоматически.
