jinaai/falcon-40b-code-alpaca-lora

This repo contains the lora weights (8bit) for Falcon-40b fit on the Code Alpaca dataset. This version of the weights was trained with the following hyperparameters: — Epochs: 2 — Batch size: 128 — Micro batch size: 4 — Learning rate: 3e-4 — Lora r: 8 — Lora target modules: querykeyvalue Make sure you install requirements and finetune using this command using the following command:

Модальности:
Генерация текста

Области применения:
Генерация кода

Задача: Генерация текста
Автор: jinaai
Теги: en
Лайков: 2 | Загрузок: 0

Открыть на HuggingFace →

Описание основано на материалах HuggingFace. Перевод выполнен автоматически.

Похожие модели (Генерация текста)

Генерация текста

grimjim/llama-3-experiment-v1-9B

Это экспериментальное слияние, реплицирующее дополнительные слои модели без восстановления после слияния. Модель повреждена, но как есть, все терпимо;...

Генерация текста

Delcos/Velara-11B-V2

В ОЖИДАНИИ Модель, ориентированная на роль помощника, с которым стоит поговорить. Теперь лучше рассуждайте! Velara была разработана для...

Генерация текста

arise-sustech/llm4decompile-6.7b-uo

LLM4Decompile предназначен для декомпиляции инструкций ассемблера x86 в C. Он точно настроен с помощью Deepseek-Coder на 4B токенах...

Генерация текста

circulus/alpaca-7b

Модель генерации текста Модальности:Генерация текста Задача: Генерация текста Автор: circulus Теги: llama, text-generation-inference, endpoints_compatibleЛайков: 14 | Загрузок: 789...