slim-boolean — это экспериментальная модель, предназначенная для реализации логического вызова функции ответа на вопрос с использованием специализированной модели параметров 2.7B. В качестве входных данных модель принимает отрывок контекста, вопрос «да-нет» и необязательный параметр (объяснение), а в качестве выходных данных модель генерирует словарь Python с двумя ключами — «ответ», который содержит классификацию «да/нет», и «объяснение», который предоставляет фрагмент текста из отрывка, который был основой для классификации, например: {‘ответ’: [‘да’], ‘объяснение’: [‘результаты превзошли ожидания на 3%’] } Эта модель доработана поверх llmware/bling-stable-lm-3b-4e1t-v0, который, в свою очередь, представляет собой тонкую настройкустабильностиai/stablelm-3b-4elt. Для быстрого вывода мы рекомендуем использовать версию «квантованного инструмента», например, «slim-boolean-tool». function = «boolean» params = «{insert yes-no-question} (explain)» Prompt = » » + {text} + «n» + » » + {params} + «» + «n:» model = AutoModelForCausalLM.frompretrained(«llmware/slim-boolean») tokenizer = AutoTokenizer.frompretrained(«llmware/slim-boolean») function = «boolean» params =…
Модальности:
Генерация текста
Задача: Генерация текста
Автор: llmware
Теги: stablelm_epoch, custom_code
Лайков: 4 | Загрузок: 7
Описание основано на материалах HuggingFace. Перевод выполнен автоматически.
