L3-DARKEST-PLANET-16.5B
Этот репозиторий содержит исходный код полной точности в формате «безопасных тензоров» для создания GGUF, GPTQ, EXL2, AWQ, HQQ...
Этот репозиторий содержит исходный код полной точности в формате «безопасных тензоров» для создания GGUF, GPTQ, EXL2, AWQ, HQQ...
Модель mlx-community/Llama-3.2-3B-bf16 была преобразована в формат MLX из мета-llama/Llama-3.2-3B с использованием mlx-lm версии 0.17.1. Модальности:Генерация текста Задача: Генерация...
— Архитектура модели: Llama-3 — Входные данные: текст — Выходные данные: текст — Оптимизация модели: — Квантование активации:...
Это квантованная версия мета-ламы/Llama-3.2-1B-Instruct, созданная с использованием llama.cpp. Коллекция многоязычных моделей большого языка (LLM) Meta Llama 3.2 представляет...
У нас есть бесплатный ноутбук Google Colab Tesla T4 для Llama 3.1 (8B) здесь: https://colab.research.google.com/drive/1Ys44kVvmeZtnICzWz0xgpRnrIOjZAuxp?usp=sharing Все ноутбуки удобны...
Эта модель была преобразована в формат GGUF из cerebras/Llama3-DocChat-1.0-8B с использованием llama.cpp через пространство GGUF-my-repo ggml.ai. Более подробную...
Cobalt — это модель математических инструкций, созданная на базе Llama 3.1 8b. — Высококачественная производительность математических инструкций в...
Обновление 28/07 — повторное квантование с помощью исправления RoPE, теперь оно должно полностью поддерживаться. Вам необходимо запустить llama.cpp...
— Требуется последняя версия мастера + PR по масштабированию веревки. — @ubergarm объяснил, как настроить здесь ваш llama.cpp....
Эта модель была преобразована в формат GGUF из мета-ламы/Meta-Llama-3.1-8B-Instruct с использованием llama.cpp через пространство GGUF-my-repo ggml.ai. Более подробную...