Ido Levy1,2 · Asaf Yehudai1 · Segev Shlomov1 · Asaf Adi1 · Leshem Choshen1,2 1IBM Они были сделаны из объединенной модели с llama.cpp (commit 9adc7f4). Перед загрузкой каждый файл запускал двухходовой пример платы адаптера с жадным декодированием. Каждый файл задавал те же два вопроса, что и модель полной точности: «Кто снял фильм« Великий Фламарион »?» и, как только доказательства назвали режиссера, «Кто был супругом кинорежиссера Энтони Манна?». Результаты — это результаты обученного вопрошающего, как сообщается в документе: см. Результаты карты адаптера. В статье оценивалась неквантовая модель, а не эти файлы. LM Studio: поиск ProactiveInquirer в браузере модели. Спрашивающий читает шаблон подсказки, по которому он был обучен, в подсказках репозитория адаптера/и отвечает одним действием JSON на…
Модальности:
Генерация текста
Области применения:
Диалог / чат Агенты
Задача: Генерация текста
Автор: dolev31
Теги: gguf, llama.cpp, ollama, lm-studio, proactive-agents, information-seeking, question-asking, agents
Лайков: 3 | Загрузок: 201
Описание основано на материалах HuggingFace. Перевод выполнен автоматически.
