Первая независимая репликация книги Anthropic «Концепции эмоций и их функции в большой языковой модели» (2026 г.) на модели с открытым исходным кодом. Мы извлекаем векторы эмоций из Gemma4-E4B (параметры 4B, с открытым исходным кодом), используя ту же методологию, которая описана Anthropic для Claude Sonnet 4.5. Мы обнаружили, что основная геометрическая структура представлений эмоций — двумерное пространство валентно-возбуждения — воспроизводится на модели, которая на несколько порядков меньше, из другого семейства моделей и с полностью открытым исходным кодом. Мы выполнили PCA на 9 векторах эмоций, извлеченных из слоя 28 (всего 42, примерно на 2/3 глубины модели). Нагрузки PC1 (Валентная ось): — Положительный конец: спокойный (-2,61), счастливый (-2,19), любящий (-1,74) — Отрицательный конец: страх (+1,51), виноватый (+1,40), отчаянный (+1,39), злой (+1,25) Нагрузки PC2 (ось возбуждения): — Низкое возбуждение: спокойный (+1,08), грустный (+0,79), виноватый (+0,67) — Высокое возбуждение: удивление (-2,48), счастье (-0,99). Эта структура соответствует выводам Anthropic по Сонету Клода 4.5 и согласуется с циркумплексной моделью аффекта Рассела (1980), которая была подтверждена десятилетиями исследований в области психологии человека. Попарное косинусное сходство между векторами эмоций…
Модальности:
Генерация текста
Задача: Генерация текста
Автор: rain1955
Теги: emotion-vectors, interpretability, mechanistic-interpretability, replication, gemma4, google, anthropic, valence-arousal
Лайков: 6 | Загрузок: 0
Описание основано на материалах HuggingFace. Перевод выполнен автоматически.
