h2oai/h2ogpt-32k-codellama-34b-instruct - Каталог нейросетей
Генерация текста

h2oai/h2ogpt-32k-codellama-34b-instruct

Добавлено:

Same as h2oai/h2ogpt-16k-codellama-34b-instruct but with config.json modified to be 32k for embeddings, which still functions fine as 16k model and allows stretching into 32k in vLLM that otherwise cannot modify maximum sequence length.

Модальности:
Генерация текста

Области применения:
Генерация кода Следование инструкциям


Задача: Генерация текста
Автор: h2oai
Теги: llama, text-generation-inference, endpoints_compatible
Лайков: 2  |  Загрузок: 61

Открыть на HuggingFace →

Описание основано на материалах HuggingFace. Перевод выполнен автоматически.