Использование https://github.com/qwopqwop200/GPTQ-for-LLaMa ветки тритона python llama.py CodeCapybara/ c4 —wbits 4 —true-sequential —act-order —groupsize 128 —save_safetensors codecapybara-4bit-128g-gptq.safetensors
Модальности:
Генерация текста
Задача: Генерация текста
Автор: catalpa
Теги: llama, endpoints_compatible
Лайков: 4 | Загрузок: 9
Описание основано на материалах HuggingFace. Перевод выполнен автоматически.
Экспериментальная точная настройка флэш-памяти GLM 4.7 с адаптером Brainstorm 20x от DavidAU, создающая модель с параметрами 42B. Целью...
Canarim-7B — это модель большого португальского языка, разработанная Maicon Domingues. Модель была предварительно обучена на 16 миллиардах токенов...
Эта модель точно настраивается на наборах данных Гутенберга с использованием стратегии kto. Я впервые использую стратегию kto и...
Skywork-SWE-32B — это модель кодового агента, разработанная Skywork AI и специально предназначенная для задач разработки программного обеспечения (SWE)....
