🚨 Пользователям рекомендуется проявлять осторожность и нести ответственность за любое дополнительное обучение и контроль, необходимые для обеспечения соответствия ответов модели приемлемым этическим стандартам и стандартам безопасности. Ответственность за внедрение этой модели в промышленные или коммерческие решения полностью лежит на тех, кто решит ее внедрить. Этот репозиторий содержит T-lite-it-2.1, преобразованный в формат GGUF с помощью llama.cpp. Оригинальную модель BF16 смотрите здесь: t-tech/T-lite-it-2.1. T-lite-it-2.1 — эффективная российская модель, построенная на архитектуре Qwen 3, отличающаяся значительными улучшениями в выполнении инструкций и добавленной поддержкой возможностей вызова инструментов — ключевое улучшение по сравнению с T-lite-it-1.0, в котором отсутствует поддержка использования инструментов. Превосходит Qwen3-8B в сценариях вызова инструментов, что важно для агентных приложений. Создан как для общих задач, так и для сложных рабочих процессов, с более высокой производительностью генерации русского текста, обеспечиваемой оптимизированным токенизатором. * Метрика IFeval представляет собой среднее значение из 4 значений: уровни подсказок и инструкций для строгой и свободной точности. > Рекомендация: выбирайте квантование высочайшего качества, подходящее для вашего оборудования (VRAM/RAM). Данные о размерах предполагают отсутствие разгрузки графического процессора. Разгрузка снижается…
Модальности:
Генерация текста
Области применения:
Диалог / чат
Задача: Генерация текста
Автор: t-tech
Теги: gguf, ru, endpoints_compatible, conversational
Лайков: 8 | Загрузок: 980
Описание основано на материалах HuggingFace. Перевод выполнен автоматически.
