Антисемитские товары по-прежнему продаются на Pinterest, несмотря на ограничения

Антисемитские товары по-прежнему продаются на Pinterest, несмотря на ограничения

Источник · Перевод автора

Ввод антисемитского термина «6mwe» в окно поиска Pinterest не даст никаких результатов, но послужит предупреждением: «Pinterest – не место для ненавистных изображений, контента или действий. Узнайте больше о наших правилах».

Но поиск на сайте Pinterest в Google по запросу «толстовка с капюшоном на 6 месяцев» легко дает десятки булавок для контента, который явно нарушает ограничения Pinterest на «теории заговора на почве ненависти и дезинформацию, такую как отрицание Холокоста», контент, который, по словам платформы, ограничен или удален.

Этот бэкдор к ограниченному контенту на Pinterest вызывает вопросы об эффективности стратегии модерации платформы, которая направлена на то, чтобы люди не могли найти определенный контент на сайте, а не удалять его. Хотя эта стратегия вызвала широкую хвалу, она также вызвала критику за то, что не учтены способы, которыми оскорбительный контент может распространяться на другие платформы и сохраняться долгое время после того, как был скрыт.

Разметка обнаружила 64 значка с товарами, содержащими «6mwe» – термин, который, по мнению Антидиффамационной лиги, является сокращением от «6 миллионов было недостаточно», отсылки к количеству евреев, убитых во время Холокоста. Во время митингов, на которых присутствовали члены правой группы The Proud Boys, некоторые из них были замечены в одежде с изображением орла с надписью «6mwe» под ним. (См. Наши данные.)

Разметка смогла сохранить и организовать эти контакты на частной доске. Ни один из рекомендательных инструментов Pinterest не предлагал контент с этими условиями.

В разметке также были обнаружены девять булавок для декоративных подушек, рюкзаков, дорожных кружек и масок с надписью «Лагерь Освенцим» над черепом и словами «Работа приносит свободу».

После того, как The Markup поделился нашими результатами с Pinterest, контакты были удалены. «На Pinterest нет места для такого контента», – сказала Кристал Эспиноза (Crystal Espinosa), представитель Pinterest. Эспиноса добавила: «Когда мы выявляем или узнаем о контенте, который нарушает наши политики, мы проверяем и принимаем меры». На вопрос, почему эти пины были доступны на платформе, Эспиноза объяснила, что усилия по модерации не идеальны, и что «с учетом объема и сложности контента всегда есть над чем поработать, и мы также признаем, что у нас больше возможностей для улучшать».

«Нет никаких нюансов, необходимых для вынесения суждения о том, пересекает ли декоративная подушка «Camp Auschwitz» черту», – сказал The Markup генеральный директор Anti-Defamation League Джонатан А. Гринблатт (Jonathan A. Greenblatt). «Тот факт, что этот ненавистный и оскорбительный контент так легко доступен в Pinterest, демонстрирует, как далеко технологическим компаниям еще предстоит пройти, чтобы устранить даже самые очевидные примеры ненависти. Если Pinterest хочет создать гостеприимное и безопасное пространство для всех, он должен инвестировать значительно больше ресурсов в свои усилия по модерации контента в будущем».

Все значки «Camp Auschwitz» указывали на объявления на торговой площадке Redbubble, которые уже были удалены. Представитель Redbubble Марисса Хермо (Marissa Hermo) сообщила The Markup, что ее платформа определила эти элементы как нарушения и что они были удалены в тот же день, когда были загружены. «У нас есть механизм приостановки для проверки по конкретным темам, поэтому этот контент не должен был быть доступен для всеобщего обозрения», – сказала она.

В прошлом Pinterest критиковали за использование своей поисковой системы для ограничения вредоносного контента, а не за прямое удаление такого контента.

В прошлом году расследование OneZero показало, что решение Pinterest просто скрыть определенный контент, а не полностью удалить его с платформы, позволило сохранить на платформе сексуализированные изображения молодых девушек, дезинформацию о коронавирусе и вакцинах, а также контент, связанный с QAnon, что публикация была обнаружена с помощью того же типа целевого поиска в Google, что и The Markup. С тех пор Pinterest объявила, что контент QAnon запрещен на своей платформе, и компания предприняла этот шаг в 2018 году.

Представитель Google Джейн Парк ( Jane Park) сообщила The Markup, что любой владелец веб-сайта может удалить контент из поискового индекса Google, сначала удалив контент со своего собственного сайта, а затем используя инструмент «Устаревшее содержание», чтобы удалить его из Google. «Наши результаты отражают информацию, доступную в открытом Интернете, и сайты могут выбирать, хотят ли они, чтобы их страницы индексировал Google», – сказала Парк.

The Markup спросила Pinterest, почему эти результаты не были удалены из индекса Google с помощью таких инструментов. «Мы контролируем контент, который появляется на нашей платформе, и работаем с Google, чтобы ускорить удаление ссылок на контент, который был удален с Pinterest. Мы всегда работаем над ускорением этого процесса, чтобы контент, нарушающий правила, не сохранялся где-либо еще», – сказал Эспиноза из Pinterest.

До того, как началась пандемия коронавируса, Pinterest активно боролся с дезинформацией о вакцинах на платформе, не возвращая результаты по связанным поисковым запросам. Но, похоже, он оставил проблемные булавки на месте, позволяя пользователям сохранять и курировать их на досках.

В декабре 2020 года Newsweek сообщил о продаже товаров «6 месяцев в неделю» на Amazon и других сайтах электронной коммерции. Amazon удалил продукты, найденные Newsweek.

Контент быстро распространяется по платформам, что может создать проблемы для модерации. В августе 2020 года обработанное видео Нэнси Пелоси (Nancy Pelosi) (второе подобное вирусное видео), впервые появившееся на TikTok, вскоре распространилось на другие платформы. И YouTube, и Twitter немедленно удалили видео, сославшись на политику, запрещающую манипулирование СМИ. Однако представитель Facebook сообщил The Washington Post, что это видео не нарушает ее политику, и оставил его. Энди Стоун, директор по связям с общественностью Facebook, также сообщил The Post, что Facebook внес ясность в формулировку своей политики, и видимость этого видео снизится.

Эти артефакты оскорбительного контента, которые могут исходить с одного сайта и сохраняться на другом, создают уникальную проблему, которую методы модерации контента крупных платформ не решают, – сказала Кейт Клоник (Kate Klonick), доцент кафедры права юридического факультета Университета Сент-Джонс.

«Есть некое предельное пространство, в котором эти идеи разжигаются», – сказала Клоник. И неясно, «насколько каждый сайт несет ответственность за очистку своих материалов от других сайтов, и в коридорах между всеми этими компаниями, у вас все это оказывается в ловушке и пусто, но, тем не менее, экзоскелет остается».

Эрик Голдман (Eric Goldman), заместитель декана по исследованиям и профессор юридического факультета Университета Санта-Клары, утверждал, что Pinterest может в некоторых случаях придерживаться правильного подхода, оставляя контент доступным. По словам Голдман, у платформ и сервисов есть широкий спектр средств правовой защиты, прежде чем прибегать к удалению, что может иметь непредвиденные негативные последствия.

«Если вы удаляете элемент контента, и есть якоря к этому контенту где-то еще в системе, к нему прикрепляются либо комментарии, либо входящие ссылки, это прерывает разговор, который может происходить вокруг этого элемента контента», – сказал Голдман. Разметка. По его словам, оставление оскорбительного контента может быть неприятным, но это может быть важно, если рассматривать его в историческом контексте. «Когда предметы удаляются, мы теряем часть нашей истории, которая может быть уродливой и неудобной, но также может иметь решающее значение для осмысления мира».

Но этот, казалось бы, спящий контент, хотя его и труднее найти, далеко не безобиден.

Многие антисемитские значки, собранные The Markup, привели к неактивным или удаленным спискам электронной коммерции, но из 38 ссылок, к которым подключались булавки, почти треть привела к активным сайтам электронной коммерции, где товары можно было купить с футболки. такие поставщики, как donefashion.com, funnysayingtshirts.com, myclothzoo.com, teesbuys.com, teeshirtxyz.com и teejabs.com. Мы обратились к каждому из этих сайтов за комментариями, но не получили ответа.

В инженерном блоге Pinterest регулярно публикуются новости о последних усилиях компании по модерации контента, нарушающего ее политику. Недавно руководитель компании по машинному обучению по вопросам доверия и безопасности Вишвакарма Сингх (Vishwakarma Singh) написал: «Сегодня наши модели обнаруживают и фильтруют нарушения политики в отношении контента для взрослых, враждебных действий, медицинской дезинформации, наркотиков, членовредительства и сцен насилия. Мы планируем явно моделировать другие категории в нашей следующей итерации».

В блоге говорится, что система модерации использует машинное обучение и распознавание изображений для поиска новых контактов и досок, созданных на основе моделей, обученных выявлять нарушения политики.

В своем последнем двухгодичном отчете о прозрачности Pinterest сообщает, что оскорбительный контент видел очень небольшой процент из 440 миллионов посетителей в месяц. В отчете говорится, что 10 процентов пользователей в период с октября по декабрь 2020 года видели пины, нарушающие политику, как «разжигающие ненависть действия».