- Могут ли несколько строк кода изменить общество? Помимо проверки фактов и модерации: как рекомендательные системы отравляют сайты социальных сетей (arXiv)
Автор: Давид Шавалариас, Поль Бушо, Мазияр Панахи.
Аннотация: Поскольку за последние несколько лет наблюдается рост враждебности и поляризации в Интернете, нам необходимо выйти за рамки рефлекса проверки фактов или похвалы за лучшую модерацию на сайтах социальных сетей (SNS) и исследовать их влияние на социальные структуры и социальные сети. сплоченность. В частности, упускается из виду роль рекомендательных систем, развернутых в больших масштабах цифровыми платформами, такими как Facebook или Twitter. Эта статья опирается на литературу по когнитивной науке, цифровым медиа и динамике мнений, чтобы предложить точную копию запутанности между рекомендательными системами, динамикой мнений и когнитивными предубеждениями пользователей в социальных сетях, таких как Twitter, которая откалибрована по крупномасштабной продольной базе данных твитов. от политических активистов. Эта модель позволяет сравнить влияние различных алгоритмов рекомендаций на социальную ткань и количественно оценить их взаимодействие с некоторыми основными когнитивными искажениями. В частности, мы показываем, что рекомендательные системы, которые стремятся исключительно к максимальному вовлечению пользователей, неизбежно приводят к чрезмерному воздействию негативного контента на пользователей (до 300% для некоторых из них), явлению, называемому алгоритмической предвзятостью негатива, к поляризации пользователей. ландшафт мнений и к концентрации социальной власти в руках наиболее токсичных пользователей. Последних более чем в два раза больше в верхнем 1\% самых влиятельных пользователей, чем в общей популяции. В целом, наши результаты подчеркивают необходимость выявления вредоносных реализаций рекомендательных систем для отдельных лиц и общества, чтобы лучше регулировать их развертывание в системных социальных сетях.
2.PORE: доказуемо надежные системы рекомендаций против атак с отравлением данных (arXiv)
Автор: Цзиньюань Цзя, Юпей Лю, Юэпэн Ху, Нил Чжэньцян Гун.
Аннотация: Атаки с отравлением данных имитируют рекомендательную систему, чтобы давать произвольные рекомендации, желаемые злоумышленником, путем внедрения фальшивых пользователей с тщательно созданными рейтинговыми баллами в рекомендательную систему. Мы предполагаем игру в кошки-мышки для таких атак с отравлением данных и их защиты, то есть новые средства защиты предназначены для защиты от существующих атак, а новые атаки предназначены для их взлома. Чтобы предотвратить такую игру в кошки-мышки, мы предлагаем PORE, первую структуру для создания доказуемо надежных рекомендательных систем в этой работе. PORE может преобразовать любую существующую рекомендательную систему, чтобы она была доказуемо устойчивой к любым нецелевым атакам с отравлением данных, которые направлены на снижение общей производительности рекомендательной системы. Предположим, что PORE рекомендует пользователю первые N элементов при отсутствии атаки. Мы доказываем, что PORE по-прежнему рекомендует как минимум r из N элементов пользователю при любой атаке с отравлением данных, где r — это функция количества фальшивых пользователей, участвовавших в атаке. Более того, мы разрабатываем эффективный алгоритм вычисления r для каждого пользователя. Мы эмпирически оцениваем PORE на популярных эталонных наборах данных.
