В исследовании, опубликованном в журнале Nature, ученые обнаружили свидетельства устойчивых паттернов токсичности в человеческом общении на различных социальных платформах, не зависящих от типа, темы обсуждения или временного периода. Исследование показало, что более длительные онлайн-беседы имеют тенденцию к эскалации токсичности и поляризации, особенно когда они включают противоречащие друг другу точки зрения. Удивительно, но такие токсичные взаимодействия не отталкивают пользователей.
Исследовательская группа собрала данные с восьми различных социальных медиа-платформ, накопив в общей сложности около 500 миллионов комментариев за период в 34 года. Этот большой набор данных включал в себя широко используемые в публичной сфере платформы, такие как Twitter, Reddit и другие. Набор данных также включал комментарии из USENET — всемирной распределенной системы обсуждений, созданной в 1980 году, более чем за десятилетие до того, как всемирная паутина стала доступна широкой публике.
Для анализа собранных комментариев на предмет токсичности исследователи использовали Perspective API — современный инструмент машинного обучения, разработанный Google. Этот API предназначен для выявления наличия токсичного языка, определяемого в данном исследовании как "грубые, неуважительные или неразумные комментарии, которые могут заставить кого-то покинуть дискуссию". Это определение позволило исследователям количественно оценить и сравнить уровень токсичности на разных платформах и в разные временные периоды.
Одним из ключевых открытий стало то, что чем дольше продолжается онлайн-разговор, тем более вероятно, что он станет токсичным. Этот паттерн оставался неизменным вне зависимости от других факторов. Это говорит о том, что по мере того, как дискуссии затягиваются, они имеют тенденцию перерастать в более напряженные и враждебные.
Вопреки распространенному предположению о том, что токсичные взаимодействия отталкивают от участия, исследователи обнаружили, что токсичность не отбивает у пользователей желание участвовать. Фактически, пользователи с большей вероятностью остаются активными в дискуссиях, где преобладают токсичные комментарии. Этот вывод указывает на то, что токсичная среда не только не отталкивает пользователей, но и может способствовать такому типу вовлеченности, который заставляет пользователей возвращаться к разговору, возможно, движимые эмоциональной вовлеченностью или чувством конфликта.
Исследователи отметили, что эти паттерны токсичности и вовлеченности согласуются на разных социальных медиа-платформах. Это постоянство указывает на то, что динамика онлайн-токсичности может быть фундаментальным аспектом человеческого взаимодействия в цифровых пространствах, а не сильно зависеть от конкретного дизайна, культуры или политики модерации отдельных платформ.
Несмотря на обширные данные и анализ, исследование имеет свои ограничения. Одной из главных проблем стало различение паттернов поведения, присущих человеку, и тех, на которые влияют дизайн платформы и алгоритмические структуры. Использование автоматизированных систем для обнаружения токсичности, хотя и необходимое для обработки больших наборов данных, также вносит потенциальные искажения из-за сложности естественного языка и тонкостей человеческого общения.
Будущие исследования должны сосредоточиться на совершенствовании технологий обнаружения токсичности, понимании триггеров токсичного поведения и изучении роли алгоритмов платформ в формировании этой динамики.
Кроме того, изучение влияния этих паттернов взаимодействия в офлайн-среде может дать более глубокое понимание распространенного характера токсичности в человеческих взаимодействиях.
Понимание устойчивой природы токсичности в социальных сетях может побудить пользователей более осознанно взаимодействовать друг с другом и вдохновить исследователей на поиск решений для создания более здоровой цифровой среды (если, конечно, она действительно нужна).
