Квантование AWQ: выполнено stelterlab в INT4 GEMM с AutoAWQ от casper-hansen (https://github.com/casper-hansen/AutoAWQ/). Исходные веса от Mistral AI. Исходная модель карты следующая: Автономные агенты для разработки программного обеспечения уже участвуют в широком спектре задач разработки программного обеспечения. Но до сих пор сильные агенты кодирования полагались на проприетарные модели, а это означает, что даже если вы используете агент с открытым исходным кодом, такой как OpenHands, вы все равно полагаетесь на вызовы API к внешней службе. Сегодня мы рады представить OpenHands LM, новую модель открытого кодирования, которая: — Открыта и доступна на Hugging Face, поэтому вы можете загрузить ее и запустить локально. — Имеет разумный размер (32 байта), поэтому ее можно запускать локально на оборудовании, например, на одном графическом процессоре 3090. — Обеспечивает высокую производительность при решении задач разработки программного обеспечения, включая коэффициент разрешения 37,2% на SWE-Bench. OpenHands LM построен на основе Qwen Coder. 2.5 Проинструктируйте 32B, используя его мощные базовые возможности для задач кодирования. Что отличает OpenHands LM от других, так это наш специализированный процесс тонкой настройки: — Мы использовали обучающие данные, сгенерированные самим OpenHands, в разнообразном наборе репозиториев с открытым исходным кодом. — В частности, мы используем…
Модальности:
Генерация текста
Области применения:
Генерация кода Диалог / чат
Задача: Генерация текста
Автор: stelterlab
Теги: qwen2, agent, coding, conversational, en, 4-bit, awq
Лайков: 9 | Загрузок: 12
Описание основано на материалах HuggingFace. Перевод выполнен автоматически.
