👾 Программа хайлайтов моделей LM Studio Community. Выделение новых и заслуживающих внимания моделей сообществом. Присоединяйтесь к обсуждению в Discord. Создатель модели: nvidia Исходная модель: Llama3-ChatQA-1.5-8B Квантование GGUF: предоставлено bartowski на основе версии llama.cpp b2777. ChatQA 1.5 представляет собой серию моделей, обученных для решения задач RAG (извлечение дополненной генерации). Эта модель может работать для общего использования, но в первую очередь она предназначена для использования в качестве сумматора контекста или извлечения контекста. Используя контекст, предоставленный после системного сообщения, модель способна предоставлять контекстные и точные ответы на запросы. На данный момент вам нужно создать свой собственный шаблон. Выберите пустой пресет LM Studio в своей LM Studio. Затем установите системное приглашение на любое желаемое значение (отметьте рекомендуемый ниже) и установите следующие значения: Префикс системного сообщения: ‘Система: ‘ Префикс пользовательского сообщения: ‘nnПользователь: ‘ Суффикс пользовательского сообщения: ‘nnAssistant: ‘ Если вы хотите предоставить контекст, поместите его в суффикс системного сообщения следующим образом: Под капотом модель увидит приглашение в следующем формате: nVidia также кажется рекомендовать начинать свой запрос со слов «Пожалуйста, дайте полный и исчерпывающий ответ на вопрос».…
Модальности:
Генерация текста
Области применения:
Диалог / чат
Задача: Генерация текста
Автор: lmstudio-community
Теги: gguf, nvidia, chatqa-1.5, chatqa, llama-3, en, endpoints_compatible, imatrix
Лайков: 6 | Загрузок: 157
Описание основано на материалах HuggingFace. Перевод выполнен автоматически.
