Это модель, которая использует абляцию ортогональных признаков, описанную в этой статье. Данные калибровки: — 256 подсказок от jondubin/airoboros-2.2 — 256 подсказок от AdvBench — Направление извлекается между слоями 40 и 41. Я не тестировал модель, но, как и модель 8B, все равно могу отказаться от некоторых инструкций. Используйте эту модель ответственно. Я снимаю с себя любую ответственность, возникшую в результате использования этой модели.
Модальности:
Генерация текста
Области применения:
Диалог / чат Следование инструкциям
Задача: Генерация текста
Автор: theo77186
Теги: llama, conversational, text-generation-inference, endpoints_compatible
Лайков: 4 | Загрузок: 11
Описание основано на материалах HuggingFace. Перевод выполнен автоматически.
