AFM-4.5B-ov
Этот репозиторий моделей содержит 16-битные, 8-битные и 4-битные версии AFM-4.5B, оптимизированные с помощью набора инструментов Intel OpenVINO. Исходная...
Этот репозиторий моделей содержит 16-битные, 8-битные и 4-битные версии AFM-4.5B, оптимизированные с помощью набора инструментов Intel OpenVINO. Исходная...
Tango-70B-Instruct — это большая языковая модель, обученная с помощью Sandbox-ai на модифицированном варианте испанского/-ir/messirve для улучшения региональной испанской...
👾 Программа хайлайтов моделей LM Studio Community. Выделение новых и заслуживающих внимания моделей сообществом. Присоединяйтесь к обсуждению в...
— измерение.json — 3.0bpw — 4.0bpw — 5.0bpw — 6.0bpw — 8.0bpw v2.5 KTO — экспериментальная версия; мы...
Исходная модель: https://huggingface.co/VAGOsolutions/Llama-3.1-SauerkrautLM-8b-Instruct Спасибо kalomaze и Dampf за помощь в создании набора калибровочных данных imatrix. Спасибо ZeroWw за...
FP8 (F8_E4M3) квантованная версия Mistral-Nemo-Instruct-2407 с 512 эпохами. Протестировано на vLLM 0.5.3, но вам нужен этот патч, чтобы...
Исходная модель: https://huggingface.co/maywell/Qwen2-7B-Multilingual-RP. Если размер модели превышает 50 ГБ, она будет разделена на несколько файлов. Чтобы загрузить их...
— Это квантованная версия CohereForAI/aya-23-8B, созданная с использованием llama.cpp. Aya 23 представляет собой открытую версию для исследования весов...
Эта модель имеет веса безопасных датчиков для модели языка параметров Madlad-400 8B. Код ВЧ-трансформаторов для выполнения вывода еще...
Vulture-40B — это еще один усовершенствованный причинный LLM, предназначенный только для декодера, созданный Virtual Interactive (VILM) на базе...