slim-ratings является частью серии моделей SLIM («Модель структурированных языковых инструкций»), состоящей из небольших специализированных моделей на основе декодеров, точно настроенных для вызова функций. slim-ratings был точно настроен для вызовов функций рейтинг/звезды (степень тональности), генерирующих выходные данные, состоящие из словаря Python, соответствующего указанным ключам, например: {«rating»: [«{рейтинговый балл 1 (низкий) — 5 (высокий)»]} Модели SLIM предназначены для обеспечения гибкой генеративной модели на естественном языке, которую можно использовать как часть многоэтапного многомодельного рабочего процесса автоматизации на основе LLM. Каждая тонкая модель имеет версию «квантованного инструмента», например «slim-ratings-tool». function = «classify» params = «rating» Prompt = » » + {text} + «n» + » » + {params} + «» + «n:» model = AutoModelForCausalLM.frompretrained(«llmware/slim-ratings») tokenizer = AutoTokenizer.frompretrained(«llmware/slim-ratings») text = «Я чрезвычайно впечатлен качеством доходов и ростом, которые мы наблюдаем у компании в этом квартале.» inputs = tokenizer(prompt, returntensors=»pt») startofinput = len(inputs.inputids[0])…
Модальности:
Генерация текста
Задача: Генерация текста
Автор: llmware
Теги: llama, text-generation-inference
Лайков: 4 | Загрузок: 7
Описание основано на материалах HuggingFace. Перевод выполнен автоматически.
