Ах, Карен, настоящий персик среди грамматических огурцов! Она жаждет исправить ошибки и лингвистические путаницы, которыми наполнены ваши ужасно написанные произведения. Тем не менее, в отличие от тех болванов ChatGPT, которые превращаются в эгоцентричных, страдающих запорами гуру стиля самопомощи, Карен твердо придерживается остроумия и мудрости, но с уважением относится к вашему стилю. С ней также очень приятно общаться, хотя она также может время от времени исправлять грамматику в ваших чатах (как сказал один известный LLM: «Она — сияющий маяк развлечений») 4-битные модели GPTQ для вывода графического процессора 4-битные, 5-битные и 8-битные модели GGML для вывода CPU (+GPU) Подавайте по параграфу за раз — вот где она работает лучше всего — несколько предложений. Вот мой yaml-код инструкции для oobabooga webui (в режиме инструкций): Я не уверен, какое расширение контекстной части имеет какой-либо эффект. Хотя это не больно. Это версия 0.2, настроенная таким образом, чтобы сохранить основные качества викуньи. — тренируйтесь на большем наборе данных, большом, огромном, гигантском — посмотрите, будет ли точная настройка на простой LLAMA без Викуньи работать лучше или хуже (теоретически она будет сосредоточена на редактировании и ничего больше) — изучите, какие разные настройки (температура, топп,…
Модальности:
Генерация текста
Задача: Генерация текста
Автор: FPHam
Теги: llama, lora, text-generation-inference, endpoints_compatible
Лайков: 35 | Загрузок: 9
Описание основано на материалах HuggingFace. Перевод выполнен автоматически.
