slim-summary — это небольшая специализированная модель, настроенная для суммирования вызовов функций, генерирующая выходные данные, состоящие из списка Python различных итоговых точек. В качестве экспериментальной функции модели предусмотрен необязательный размер списка, который можно передавать вместе с параметрами при вызове модели, чтобы направить модель к определенному количеству элементов ответа. [‘summarypoint1’, ‘summarypoint2’, ‘summarypoint3′]` Эта модель имеет 2,7 млрд параметров, достаточно мала для работы на процессоре и настроена поверх llmware/bling-stable-lm-3b-4e1t-v0, что, в свою очередь, представляет собой тонкую настройкустабильности/stablelm-3b-4elt. Для быстрого использования этой модели мы рекомендуем использовать версию «квантованного инструмента», например «slim-summary-tool». — Автоматическое (ast.literal_eval) преобразование вывода llm в список Python часто осложняется наличием символов »’ (двойные кавычки ascii 34) и «‘» (одинарные кавычки ascii 39). Мы предоставили в llmware простой обработчик исправления строк, который автоматически исправляет и предоставляет правильно сформированный список Python. В процессе обучения мы пробовали несколько способов обработки 34/39 — и каждый из них имеет ряд компромиссов — мы буду продолжать искать пути к лучшему…
Модальности:
Генерация текста
Задача: Генерация текста
Автор: llmware
Теги: stablelm_epoch, custom_code
Лайков: 8 | Загрузок: 13
Описание основано на материалах HuggingFace. Перевод выполнен автоматически.
