Как ненависть распространяется в Интернете

Согласно новому исследованию, опубликованному сегодня в журнале Nature, онлайн-ненависть процветает во всем мире благодаря самоорганизующимся масштабируемым кластерам, которые соединяются, образуя устойчивые сети, распространяющиеся по множеству социальных сетей, стран и языков. Исследователи из Университета Джорджа Вашингтона разработали модель картирования, первую в своем роде, для отслеживания того, как процветают эти онлайн-кластеры ненависти. Они считают, что это может помочь социальным сетям и правоохранительным органам в борьбе с ненавистью в Интернете.

С ростом социальных сетей люди могут общаться с другими единомышленниками всего за несколько кликов. Группы людей с общими интересами образуются легко и просто. Недавно идеологии онлайн-ненависти и экстремистские повествования были связаны с ростом преступности во всем мире. Чтобы помешать этому, исследователи во главе с Нилом Джонсоном, профессором физики из GW, решили лучше понять, как развивается ненависть в Интернете и можно ли ее остановить.

«Ненависть разрушает жизни, и не только, как мы видели в Эль-Пасо, Орландо и Новой Зеландии, но и психологически через онлайн-издевательства и риторику», - сказал доктор Джонсон. «Мы решили разобраться с онлайн-ненавистью, взглянув на то, почему она настолько устойчива и как с ней лучше бороться. Вместо любви в воздухе мы обнаружили, что ненависть в эфире».

Чтобы понять, как ненависть развивается в Интернете, команда начала с составления карты взаимодействия кластеров, чтобы распространять их повествования и привлекать новых сотрудников. Сосредоточив внимание на социальных сетях Facebook и его центрально-европейском партнере, ВКонтакте, исследователи начали с определенного кластера ненависти и посмотрели наружу, чтобы найти второй, который был бы тесно связан с оригиналом. Они обнаружили, что ненависть пересекает границы определенных интернет-платформ, включая Instagram, Snapchat и WhatsApp; географическое положение , включая Соединенные Штаты, Южную Африку и части Европы; и языки, включая английский и русский.

Исследователи видели кластеры, создающие новые стратегии адаптации для того, чтобы перегруппироваться на других платформах и / или повторно войти в платформу после того, как их забанят. Например, кластеры могут мигрировать и восстанавливаться на других платформах или использовать другие языки, чтобы избежать обнаружения. Это позволяет кластеру быстро вернуть тысячи сторонников на платформу, на которой они были забанены, и подчеркивает необходимость межплатформенного сотрудничества для ограничения групп ненависти в Интернете.

«Аналогия не имеет значения, сколько вы уберете сорняков во дворе, проблема вернется, возможно, более агрессивно. В онлайн-мире все дворы по соседству взаимосвязаны очень сложным образом - почти как червоточины. «Почему отдельные социальные сети, такие как Facebook, нуждаются в новом анализе, таком как наш, чтобы найти новые подходы, чтобы подтолкнуть их вперед», - сказал доктор Джонсон.

Команда, в состав которой входили исследователи из Университета Майами, использовала выводы из своего онлайн-картографирования ненависти, чтобы разработать четыре стратегии вмешательства, которые платформы социальных сетей могли бы немедленно реализовать на основе ситуационных обстоятельств:

• Уменьшите мощность и количество больших кластеров, запретив входящие в них меньшие кластеры.
• Атакуйте ахиллесову пяту групп ненависти в Интернете, случайным образом блокируя небольшую часть отдельных пользователей, чтобы глобальная кластерная сеть стала частью.
• Объедините большие кластеры друг с другом, помогая кластерам против ненависти находить и взаимодействовать непосредственно с кластерами ненависти.
• Создайте посреднические кластеры, которые привлекают группы ненавистников, чтобы помочь выявить различия в идеологиях между ними и заставить их начать сомневаться в своей позиции.

Исследователи отметили, что каждая из их стратегий может быть принята в глобальном масштабе и одновременно на всех платформах без необходимости делиться конфиденциальной информацией отдельных пользователей или коммерческими секретами, что раньше было камнем преткновения.

Используя эту карту и ее математическое моделирование в качестве основы, доктор Джонсон и его команда разрабатывают программное обеспечение, которое могло бы помочь регулирующим органам и правоохранительным органам внедрять новые вмешательства.