В Facebook автоматически создаются "таргетинговые" категории, на которые могут быть нацелены интересы рекламодателей, к примеру - "jogger" и "activist", в зависимости от того, на какие паблики подписан пользователь.
Обычно это не проблема, но недавно издание ProPublica обнаружило, что Facebook создал антисемитские и пронацистские категории, такие как "Jew Hater" ("Евреененавистники") и "Hitler did nothing wrong" ("Гитлер не сделал ничего плохого"), которые могут быть использованы для рассылки целевых рекламных объявлений.
Категории включали в себя всего несколько тысяч человек, но уже тот факт, что они существовали для официального таргетинга (и, кстати, могли приносить доходы Facebook от определенного круга лиц), вызывает вопросы об эффективности, или вообще - о существовании контроля над межрасовой и другой ненавистью на платформе. Несмотря на то, что бесчисленные сообщения подобного рода Facebook сейчас выявляет и удаляет, такие способы целевой рассылки сообщений могут оказаться очень эффективны для обхода контроля.
ProPublica, действуя по подсказке, обнаружила, что несколько категорий автозаполняли сами себя, когда их исследователи ввели "jews h" в поле поиска рекламной категории. Чтобы убедиться, что категории реально работают, тестировщики объединили их в пакет и купили таргетированное рекламное объявление. И оно заработало!
После того, как Facebook предупредили о данном инциденте, администрация быстро удалила все подозрительные категории и опубликовала, уже знакомое, строго сформулированное, заявление о том, насколько жестко к таким явлениям относится компания:
"Мы не допускаем никакого выражения ненависти на Facebook. Наши стандарты сообщества строго запрещают нападать на людей на основе их пола, социального статуса, религиозных взглядов или расовой принадлежности. И мы запрещаем рекламодателям дискриминировать людей по их религии и другим атрибутам. Однако есть моменты, когда на нашей платформе появляется контент, который нарушает наши стандарты. В данном случае мы удалили соответствующие поля таргетинга. Мы знаем, что нам предстоит еще много работы в этом плане и потому мы продолжаем создавать новые методы защиты в наших продуктах и тестируем защитные механизмы, чтобы предотвратить другие подобные проблемы в будущем."
Проблема возникла из-за того, что люди перечисляли в своих постах конкретные словосочетания вроде "jew hater" и т.д. С одной стороны, это - хороший способ обучения системы, определять, чем интересуются пользователи: метеорология, социальные науки и т.п. и хотя существуют темы, которые упоминают очень редко, это не должно быть препятствием для рекламодателя, стремящегося охватить очень ограниченную группу, например - владельцев редкой породы собак.
Однако очень сложно создать алгоритм, определяющий разницу между "Историей иудаизма" и просто "Историей, почему евреи разрушают мир". И на самом деле Facebook действительно стоит обратить на это внимание. По крайней мере, когда категории потенциально уязвимы, касаясь персональных данных, таких как религия, политика и секс, нужно понимать, что такие категории нужно проверять отдельно, прежде чем предлагать потенциальным рекламодателям.
Компания Facebook уверила, что в данный момент она уже работает над тем, чтобы такие оскорбительные записи не отображались как адресные категории. Конечно, лучше - поздно, чем никогда, но все-таки... Facebook! Вы там серьезно только сейчас это поняли?
Иван Ковалев
ИсточникDell XPS 12 9250 стал своеобразным ответом на «майкрософтовский» планшет Microsoft Surface 4, который, хоть и вышел
Самыми популярными программами подобного типа на сегодняшний день являются приложения WhatsApp, Viber и, конечно же –
Спустя долгие годы «сопротивления», и в компании Canon наконец поняли, что рынок бюджетных струйных принтеров и МФУ они
