slim-ner является частью серии моделей SLIM («Модель структурированных языковых инструкций»), состоящей из небольших специализированных моделей на основе декодера с 1 параметром, точно настроенных для вызова функций. slim-ner был точно настроен для вызовов функций извлечения именованных сущностей, генерируя выходные данные, состоящие из словаря Python, соответствующего указанным ключам, например: {«people»: [«…»], «organization»:[«…»], «location»: [«…»]} Модели SLIM предназначены для генерации структурированных выходных данных, которые можно использовать программно как часть многоэтапного, многомодельного рабочего процесса автоматизации на основе LLM. Модели SLIM могут использоваться «из коробки» для быстрого прототипирования в большинстве случаев общего назначения и предназначены для использования в качестве прочной основы, которую можно легко настроить и адаптировать для специализированных случаев производственного использования. Каждая тонкая модель имеет версию «квантованного инструмента», например «slim-ner-tool». function = «classify» params = «люди, организация, местоположение» Prompt = » » + {text} + «n» + » » + {params} + «» + «n:» model = AutoModelForCausalLM.frompretrained(«llmware/slim-ner») tokenizer =…
Модальности:
Генерация текста
Задача: Генерация текста
Автор: llmware
Теги: llama, text-generation-inference
Лайков: 17 | Загрузок: 11
Описание основано на материалах HuggingFace. Перевод выполнен автоматически.
