Эта модель, основанная на 6,7 миллиардах параметров, устанавливает планку совершенства в понимании кода и визуализации повествования с помощью искусственного интеллекта, теперь с дальнейшим сокращением галлюцинаций, вдохновленным https://huggingface.co/jondurbin, создавшим шаблон чата «Context-Obedient». Мы стоим на плечах Giants, поэтому мы благодарим Джона Дурбина, пионера RAG для LLM. Особая благодарность Эрику Хартфорду за то, что он поделился со мной своей интуицией лично в шаблонах, ваша общая мудрость помогла мне разработать свой собственный стиль, который подходит для моих собственных специализированных моделей русалок. Помимо преобразования входных данных в блок-схемы, эта модель RAG превосходно подходит для использования форматированных графов знаний в синтаксисе Mermaid JS. Используйте мой шаблон приглашения для создания блока кода Mermaid, который можно просмотреть в редакторе Mermaid Live Editor или с помощью инструмента Mermaid CLI. !2 Загруженная модель с полной точностью. 16-битный Show Inference и Mermaid Live Editor GIF. Здесь мы открываем программу VLLM с графическим интерфейсом, все еще работая во Vram, Mermaid-Llama-8B, чтобы сравнить блок-схему с реальной программой и продемонстрировать легковесные возможности небольших моделей на потребительском оборудовании. !3 Откройте программу VLLM с полной точностью…
Модальности:
Генерация текста
Задача: Генерация текста
Автор: TroyDoesAI
Теги: llama, text-generation-inference, endpoints_compatible
Лайков: 23 | Загрузок: 18
Описание основано на материалах HuggingFace. Перевод выполнен автоматически.
