Алгоритм X плутає обурення з інтересом: активна реакція може віддаляти стрічку від справжніх уподобань
Рекомендаційні системи соцмереж традиційно вважають активну взаємодію ознакою інтересу. Якщо людина довго дивиться допис, відповідає на нього або поширює, алгоритм робить висновок: цього контенту потрібно показувати більше. Нове дослідження Stanford показує фундаментальну проблему — люди часто активно взаємодіють саме з тим, що їх дратує або суперечить їхнім цінностям.
Команда вивчала стрічку For You у X і порівнювала те, що алгоритм пропонує користувачам, із їхніми власними відповідями про цінності та уподобання.
Engagement не дорівнює схваленню
Користувач може сперечатися з дописом, читати його через обурення або пересилати друзям як приклад того, з чим не погоджується. Для алгоритму ці дії виглядають майже так само, як справжній інтерес.
Через це система отримує позитивний сигнал і збільшує частку схожого контенту. З часом стрічка може дедалі точніше передбачати, що змусить людину реагувати, але водночас дедалі гірше відповідати тому, що вона насправді хоче бачити.
Дослідники описують це як проблему ціннісного розходження: оптимізація поведінкового показника не гарантує оптимізації добробуту, задоволення або відповідності особистим переконанням.
Чому «розумніший» алгоритм може робити гірше
Чим більше система знає про реакції людини, тим краще вона знаходить контент, здатний утримати увагу. Але якщо сам показник уваги змішаний із гнівом, страхом і цікавістю, покращення прогнозу лише посилює помилку мети.
Це одна з центральних проблем сучасного ШІ: модель може чудово оптимізувати заданий показник, але цей показник виявляється неточним замінником того, чого насправді хоче користувач.
Можливе рішення — доповнювати поведінкові сигнали прямими налаштуваннями, оцінками задоволеності або способами сказати алгоритму «я реагую, але не хочу бачити більше такого».
Робота не доводить, що кожна рекомендація X суперечить користувачеві. Вона показує системну вразливість підходу, де engagement автоматично трактується як позитивний сигнал.
Для соцмереж це важливе нагадування: найкраща модель прогнозування кліків ще не обов’язково є найкращою моделлю людських уподобань.
