slim-nli является частью серии моделей SLIM («Модель структурированных языковых инструкций»), состоящей из небольших специализированных моделей на основе декодеров, точно настроенных для вызова функций. slim-nli был точно настроен для вызовов функций вывода естественного языка (nli), генерируя выходные данные, состоящие из словаря Python, соответствующего указанным ключам, например: Модели SLIM предназначены для генерации структурированных выходных данных, которые можно использовать программно как часть многоэтапного многомодельного рабочего процесса автоматизации на основе LLM. Каждая тонкая модель имеет версию «квантованного инструмента», например «slim-nli-tool». function = «classify» params = «nli» Prompt = » » + {text} + «n» + » » + {params} + «» + «n:» model = AutoModelForCausalLM.frompretrained(«llmware/slim-nli») tokenizer = AutoTokenizer.frompretrained(«llmware/slim-nli») text1 = «Фондовый рынок вчера упал, поскольку инвесторы все больше беспокоились о замедлении экономики.» text2 = «Инвесторы позитивно оценивают рынок.» inputs = tokenizer(prompt, returntensors=»pt») startofinput = len(inputs.inputids[0]) outputs = model.generate( inputs.inputids.to(‘cpu’),…
Модальности:
Генерация текста
Задача: Генерация текста
Автор: llmware
Теги: llama, text-generation-inference
Лайков: 7 | Загрузок: 6
Описание основано на материалах HuggingFace. Перевод выполнен автоматически.
