👾 Программа хайлайтов моделей LM Studio Community. Выделение новых и заслуживающих внимания моделей сообществом. Присоединяйтесь к обсуждению в Discord. Создатель модели: Mistral AI Исходная модель: Mistral-7B-Instruct-v0.3 Квантование GGUF: предоставлено bartowski на основе llama.cpp версии b2965. Mistral 7B Instruct — отличная модель высокого качества, настроенная на выполнение инструкций, и версия v0.3 ничем не отличается. В этой итерации реализована поддержка вызова функций, что должно еще больше расширить вариант использования и предоставить более полезного помощника. Под капотом модель увидит приглашение следующего формата: Версия 0.3 имеет несколько изменений по сравнению с версией 0.2, в том числе: — Расширенный словарь (32000 -> 32768) — Новый токенизатор — Поддержка вызова функций Поддержка вызова функций стала возможной благодаря новому расширенному словарю, включая токены TOOLCALLS, AVAILABLETOOLS и TOOL_RESULTS. 🙏 Особая благодарность Георгию Герганову и всей команде, работающей над llama.cpp, за то, что все это стало возможным. 🙏 Особая благодарность Kalomaze, Dampf и Turboderp за работу над набором данных (ссылка здесь), который использовался для расчета иматрицы для всех размеров. LM Studio не является создателем, создателем или…
Модальности:
Генерация текста
Области применения:
Диалог / чат Следование инструкциям
Задача: Генерация текста
Автор: lmstudio-community
Теги: gguf, endpoints_compatible, conversational
Лайков: 53 | Загрузок: 22,161
Описание основано на материалах HuggingFace. Перевод выполнен автоматически.
