Российские боты достали Facebook. Как сеть будет бороться с пропагандой

Компания Facebook продолжает расследовать скандальную историю про массовую закупку российскими пользователями политической рекламы, которая могла повлиять на ход президентских выборов в США в 2016 году.

Читайте также: Российские тролли закупили в Facebook пропаганду, чтобы рассказывать американцам про плохие США. Зачем

Основатель и руководитель Facebook Марк Цукерберг вышел из отпуска и записал видеообращение, в котором анонсировал 9 методов, которыми компания будет бороться с попытками манипулировать сознанием граждан и влиять на ход выборов в чужой стране. В частности будут изменены правила по размещению рекламы.

Следы российской фабрики троллей

В начале сентября глава службы безопасности Facebook Алекс Стамос объявил, что за два года с аккаунтов, которые "вероятно, управлялись из России", закупили политической рекламы на $100 тысяч.

Проведенное внутреннее расследование выявило, что 3000 рекламных объявлений и постов были оплачены из 470 аккаунтов и страниц, за которыми не стоят реальные люди.

Газета The New York Times ссылаясь на официальных представителей Facebook сообщила, что фейковые аккаунты, о которых упоминает Стамос, были созданы российской компанией Агентство исследования интернета. Она больше известна как "фабрика троллей".

С подставных аккаунтов сотрудники конторы создают пропагандистские посты в соцсетях, которые потом массово распространяются с помощью бот-ферм, пишут манипулятивные комментарии, провоцируя дискуссии и тому подобное.

Реклама не была адресована на поддержку того или иного кандидата на президентских выборах в США. Содержание постов больше касалось противоречивых социальных и политических посланий и затрагивало такие темы, как ЛГБТ, межрасовые отношения, миграция, право на ношение оружия.

Запоздалая реакция Цукерберга

Лидер Facebook в своем видеообращении рассказал, что компания закрыла тысячи фейковых аккаунтов, которые могли быть ответственны за вмешательство в избирательный процесс по всему миру, в частности, недавно во Франции.

Далее он признал, что они не способны предупредить все попытки вмешательства, но можно сделать этот процесс гораздо более сложным. В частности, на выборах в Германии, которые должны состояться через два дня - в воскресенье, 24 сентября.

Цукерберг объявил о плане из 9 пунктов. Издание Tech Crunch замечает, что он опоздал с реакцией, но хотя бы признал проблему и начал с ней бороться.

Циники говорят, что если бы не было скандала с американскими выборами, не было бы и реакции Facebook на то, что российские тролли используют соцсеть как площадку для манипуляций.

"Вполне возможно, что обращение Цукерберга - это пиар для отбеливания компании по поводу возможных обвинений во время немецких выборов", - рассказала на условиях анонимности сайта Эспрессо украинская специалистка по "разгонке" информации в соцсетях.

По ее мнению, Цукерберг сделал политическое заявление, направленное на защиту интересов компании, но оно не содержит никаких сигналов для рынка.

"Ничего особенно нового я от него не услышала. То, что Facebook - это нейронная сеть, алгоритм которой постоянно учится, в том числе и выявлять фейки, это ни для кого не секрет", - отметила наша собеседница.

Антисемитский фильтр

Вполне возможно, что к действиям Цукерберга побудила еще и другая история, о которой он не упомянул в своем обращении. Она ярко демонстрирует недостатки соцсети и ее алгоритмов, которые отвечают за самосовершенствование.

Издание ProPublica в сентябре провело эксперимент и за $30 купило на Facebook рекламу, которая транслировалась специально для антисемитов.

Журналисты в процессе покупки настроили фильтр, который определяет аудиторию, которой будут показывать проплаченный пост. Они нашли и выбрали такие категории: "ненавистник евреев", "как жечь евреев", "история того, как евреи разрушают мир", "Гитлер не сделал ничего плохого" и тому подобное.

Издание Slate пошло дальше и выявило другие рекламные категории, написанные языком ненависти. Например, "Ку клукс клан", "убить сук", "убить радикальных мусульман" и тому подобное.

В Facebook после этого удалили соответствующие рекламные категории, отметив, что их, скорее всего, сформировал алгоритм, а не конкретный человек.

Дело в том, что категории создаются согласно тому, что люди пишут в своих профилях. Некоторые указали, например, что выучились на "ненавистника евреев" в колледже, другие - что это их область профессиональных интересов. Программа же добавила это в рекламные фильтры.

"Тот факт, что слова ненависти можно было выбрать среди других, является совершенно неприемлемым, и это наш прокол. Мы их удалили, и когда это не принесло желаемого эффекта, мы отключили этот целевой сегмент в нашей рекламной системе", - заявила главный операционный директор Facebook Шерил Сендберґ.

Она обещала, что Facebook теперь вручную пересмотрит все рекламные категории и усилит контроль за ними.

Так что же теперь собирается делать Facebook

Первые два пункта плана Цукерберга заключаются в том, что компания будет сотрудничать с правительством и Конгрессом США и продолжит внутреннее расследование по поводу фейковых аккаунтов, их отношения к России и содержания рекламы, которую они распространяют.

Также социальная сеть сделает политическую рекламу более прозрачной. Со слов Цукерберга следует, что пользователи теперь смогут не только увидеть, кто заплатил за рекламное объявление, а еще зайти на страничку рекламодателя и посмотреть, какие объявления он транслирует на любую аудиторию соцсети.

Кроме того, Цукерберг пообещал усилить процесс пересмотра политических объявлений. Он отметил, что компания и ранее блокировала те из них, которые нарушают закон, но которые могли улучшить процесс.

Также Facebook собирается увеличить расходы на безопасность. Планируется нанять более 250 человек, которые будут этим заниматься.

"Опять же, это то, что Facebook должен сделать до выборов-2016. Он зарабатывает более $3 миллиардов ежеквартально, поэтому запросто может позволить себе увеличение штата. Это исключительно проблема Facebook - предусмотреть наихудшие сценарии использования своего продукта, и компания неоднократно не смогла этого сделать", - комментирует этот пункт Tech Crunch.

Также компания планирует сотрудничать с избирательными комиссиями по всему миру и делиться опытом с другими IT-компаниями (это шестой и седьмой пункты).

Восьмой пункт очень интересный - Facebook собирается защищать политические дискуссии от угроз. В частности, Цукерберг рассказал о планах расширить действие системы антибулинга таким образом, чтобы она защищала также и от политической агрессии.

В последнем пункте лидер компании обещает мониторить выборы в Германии. Он рассказал, что компания уже сотрудничает с Федеральным управлением по информационной безопасности, кандидатами и партиями, а также принимает меры по поводу фейковых аккаунтов.

Как уже писал сайт Эспрессо, в Германии Facebook с марта привлек к борьбе с фейковыми новостями коллектив журналистов-расследователей Corrective.

Это четыре журналиста, которые каждое утро получают электронное письмо от Facebook с подборкой фальшивок, кликбейтов и постов, отмеченных пользователями соцсети как ложные или оскорбительные.

Читайте также: Российские фейки очень надоели Европе, но она ничего не может сделать. Почему так происходит

Если проверка подтверждает, что новость фэйковая, она сказывается в ленте пользователей флажком "disputed" (сомнительно) и опускается вниз.

Просто бизнес

Издание Tech Crunch выражает надежду, что ошибки Facebook и общая наивность IT-компаний и общественности заставят их изменить направление деятельности, ведь мир осознает, какими сложными могут быть атаки на демократию.

На самом деле, слово наивность - это очень мягкая оценка. "Facebook зарабатывает на рекламе, и компании невыгодно ее прижимать. Она будет это делать только тогда, когда это будет нести угрозу репутации, что сейчас и произошло. Если бы не было внимания общественности, Facebook спокойно зарабатывал бы деньги и ничего не заявлял", - считает наша собеседница, специалист из соцсетей.

Но если Facebook хотя бы делает громкие заявления, другие компании вообще отмалчиваются. А это может плохо кончиться и для них, и для их пользователей.