Гигант социальных сетей изучил, как он поляризует пользователей, а затем отложил исследование
WSJ подробно рассказывает о попытках Facebook бороться с поляризацией сообщества. К сожалению, практически безрезультатных.
Внутри компании неоднократно поднимался вопрос о том, что архитектура продукта Facebook способствует поляризации и радикализации пользователей. Внутренее исследование 2016 года показало, что 64% новых участников экстремистских групп пришли в них по рекомендации Facebook — через рекомендованные группы и раздел Discover. При этом большая часть проблемного контента исходила от небольших групп суперактивных распространителей.
После скандала с президентскими выборами в США внутри компании создали несколько команд разработчиков и исследователей. Они должны были предложить решения, которые помогут Facebook снизить влияние разделяющего контента. К примеру, дать модераторам групп возможность переносить особо острые дискуссии в специально изолированные подгруппы. Либо показывать пользователям более широкий выбор рекомендованных групп.
Но любые “антитоксичные” изменения в архитектуре ленты и групп сильно влияли на вовлечение. Сами разработчики во внутренних документах предупреждали, что их решения навредят росту и будут требовать от компании занять “моральную позицию”.
Большинство решений стопорил директор по публичной политике Facebook Джоэль Каплан. Исследования показали, что любые меры по борьбе с “плохой” информацией в первую очередь заденут консервативные сообщества – на них приходилась большая часть радикального контента. Каплан не хотел, чтобы Facebook воспринимали как политического цензора.
Сам Цукерберг также считал некоторые нововведения слишком радикальными. Когда разработчики предложили снизить охват “суперраспространителей”, Цукерберг одобрил это решение, но при этом попросил снизить его эффект на 80%.
В итоге все эти эксперименты закончились без особого эффекта. Внутри Facebook прекрасно понимают, как внутри соцсети циркулирует токсичный контент, и как с этим можно бороться. Но руководство компании не хочет становиться цензором общественных дискуссий. Как говорит Цукерберг, толерантность нельзя привить в приказном порядке, сверху вниз.