Несколько бессмысленно больших квантов exllamav3 Qwen3-Next-80B-A3B-Instruct в дополнение к оптимизированным квантам Turboderp.
Модальности:
Генерация текста
Области применения:
Следование инструкциям
Задача: Генерация текста
Автор: MikeRoz
Теги: exllamav3, exl3
Лайков: 5 | Загрузок: 0
Описание основано на материалах HuggingFace. Перевод выполнен автоматически.
Это рабочая версия Mixtral Instruct с квантованием AWQ. По состоянию на 02.11.2024 https://huggingface.co/TheBloke/Mixtral-8x7B-Instruct-v0.1-AWQ не работает, поэтому вместо этого...
Семейство моделей Jais представляет собой комплексную серию двуязычных англо-арабских моделей большого языка (LLM). Эти модели оптимизированы для достижения...
Чат и поддержка: сервер Discord TheBloke Хотите внести свой вклад? Страница TheBloke’s Patreon Работа TheBloke’s LLM щедро поддерживается...
Мы утверждаем, что эффективное агентное мышление выигрывает от разложения обсуждения на три взаимодействующие системы: реактивное исполнение (Система I)...
