Trendyol LLM v1.8 — это генеративная модель, основанная на модели Mistral 7B. Это репозиторий модели чата. Архитектура модели Trendyol LLM — это авторегрессионная языковая модель (на основе Mistral 7b), в которой используется оптимизированная архитектура преобразователя. Версия чата настроена на наборы инструкций со следующими обучаемыми объектами с использованием LoRA: — lr=1e-4 — lorarank=64 — loraalpha=128 — loratrainable=qproj,vproj,kproj,oproj,gateproj,downproj,upproj — elementstosave=embedtokens,lmhead — loradropout=0.05 — bf16=True — maxseqlength**=1024 — основная функция и применение: Trendyol LLM, авторегрессионная языковая модель, в первую очередь предназначена для прогнозирования следующего токена в текстовой строке. Хотя он часто используется для различных приложений, важно отметить, что он не подвергался обширному тестированию в реальных условиях. Его эффективность и надежность в различных сценариях остаются в значительной степени непроверенными. — Понимание и генерация языка: Модель в основном обучается на стандартном английском и турецком языках. Его способность понимать и генерировать сленг, неформальную речь или другие языки может быть ограничена, что приводит к потенциальным ошибкам или неверным толкованиям. — Генерация…
Модальности:
Генерация текста
Области применения:
Диалог / чат
Задача: Генерация текста
Автор: Trendyol
Теги: mistral, tr, text-generation-inference, endpoints_compatible
Лайков: 10 | Загрузок: 30
Описание основано на материалах HuggingFace. Перевод выполнен автоматически.
