С большим энтузиазмом мы представляем серию Prem-1B, многофункциональные модели больших языков с открытым исходным кодом, разработанные Prem AI. Этот передовой SLM предлагает открытому сообществу и предприятиям возможность использовать возможности, которые когда-то были доступны исключительно через API закрытых моделей, давая им возможность создавать свои собственные продвинутые языковые модели. Наша цель — разработать модель, которая превосходно справляется с поисковой дополненной генерацией (RAG). В то время как модели большого языка (LLM) хранят огромный объем информации в своих параметрах, RAG работает по-другому, поглощая информацию во время выполнения. Этот подход предполагает, что для приложений RAG нам могут не потребоваться модели огромных размеров. С помощью этой инициативы мы стремимся создать модель малого языка (SLM) с расширенной длиной контекста в 8192 токена, что позволит ей эффективно обрабатывать многоходовые диалоги. Это начинание представляет собой нашу первую попытку создать SLM, адаптированный для задач RAG. Это карточка модели трансформера 🤗, которая была размещена на Хабе. Эта карточка модели была создана автоматически. – Разработчик: https://premai.io/ – Тип модели: Llama – Язык(и) (NLP): Python – Лицензия: Apache License…
Модальности:
Генерация текста
Области применения:
Диалог / чат
Задача: Генерация текста
Автор: prem-research
Теги: llama, conversational, text-generation-inference, endpoints_compatible
Лайков: 6 | Загрузок: 7
Описание основано на материалах HuggingFace. Перевод выполнен автоматически.
