Эта модель является промежуточным шагом в проверке рабочей гипотезы о врожденном недостатке нейронных сетей, которые мы полюбили. Люди, использующие модели для ролевых игр, без сомнения, уже заметили последствия этого недостатка там, где он впервые начал проявляться (но я полагаю, что позже он проявится и в других областях, если не принять меры). Фактор «дрожи», как его можно назвать. Некоторые литературные образы становятся сильно преувеличенными, особенно упоминания о дрожи, пробегающей по спине, но есть и другие. Однако я утверждаю, что это происходит из-за того, что модели лучше справляются с тем, что они должны делать, — создают статистические связи между длинными цепочками последовательностей токенов, чтобы имитировать понимание семантики. Таким образом, хотя авторы-люди будут перефразировать свои образы и вносить словарные вариации, когда дело доходит до LLM, обучающихся на этих данных, а не на ветвях, это становится скорее воронкой, тянущей все большее количество цепочек токенов к общей точке соединения. Особенно это становится очевидным при «дрожи», потому что, как и в реальности, висцеральная стимуляция вызывает реакцию мышц поясницы и красноречивого письма…
Модальности:
Генерация текста
Области применения:
Диалог / чат Следование инструкциям
Задача: Генерация текста
Автор: Envoid
Теги: mixtral, conversational, text-generation-inference, endpoints_compatible
Лайков: 4 | Загрузок: 8
Описание основано на материалах HuggingFace. Перевод выполнен автоматически.