Борьба с "порноместью": В Facebook рассказали, как работает новая программа защиты интимных изображений

Об этом говорится в блоге компании.

В ноябре 2017 года Facebook начал тестировать в Австралии программу против публикации снимков бывших партнеров - довольно часто экс-любовники используют такой метод как способ отомстить за расставание.

Методы борьбы с "порноместью" показались многим пользователям неоднозначными, ведь интимные фотографии, которые сначала нужно отправить, потом увидят модераторы.

В апреле 2017 года Марк Цукерберг объявил о начале борьбы Facebook с этим явлением, определив "порноместью" любую интимную фотографию, которой поделились без разрешения автора. Чтобы модераторы проверили снимок на нарушение стандартов, достаточно было нажать кнопку "Пожаловаться" (Report).

Программа в Австралии - еще один шаг компании в борьбе с "порноместью". Австралию выбрали не случайно, ведь по статистике каждые четыре-пять местных жительниц в возрасте от 18 до 45 лет страдают от аналогичных случаев. В ближайшем будущем тестирование распространят на Великобританию, США и Канаду.

Читайте также: Самоубийства, насилие и аборты. Что можно публиковать в Facebook

Если результаты признают удовлетворительными, функция станет доступна всем пользователям соцсети. Вот только новость о том, что модераторы будут просматривать интимные снимки перед созданием цифрового отпечатка, многим показалась странной и безнравственной. Еще больше вопросов возникло к объективности модераторов, ведь человеческий фактор способный привести к ошибке.

Как это работает

Глава департамента глобальной безопасности Facebook Антигона Дэвис (Antigone Davis) дополнительно разъяснила, как работает программа. По ее словам, участие в тестировании новой функции вполне добровольное.

1. Каждый австралиец, который хочет опробовать новую функцию, заполняет онлайн-форму на сайте австралийского правительственного агентства e-Safety;
2. Пользователь соцсети присылает интимную фотографию себе в Messenger и обозначает специальным флажком - так в соцсети определят кадр, который "вызывает беспокойство";
3. Секретари e-Safety сообщают Facebook о том, что участник программы заполнил форму. При этом у них нет доступа к изображению;
4. Когда Facebook получает уведомление, представитель Community Operations открывает фотографию, изучает ее, и создает цифровой биометрический шаблон по аналогии с отпечатком пальца;
5. Facebook пишет в e-Safety и просит автора жалобы удалить оригинальное фото с Messenger на их устройства. Потом модераторы удаляют это изображение из своих серверов;

После всех действий восстановить исходный снимок невозможно. Если кто-то попытается загрузить ту же фотографию в соцсеть, автоматически запустится база данных.

Если фото совпадут, соцсеть не позволит публикацию.
По словам представителя Facebook , каждую фотографию будет изучать только один человек, а всего этим станет заниматься небольшая группа сотрудников специального подразделения. На серверах сети будет храниться только ссылка, а не интимные фотографии и видео.

Увидят снимки модераторы

В Facebook сначала даже не упоминали, что программа борьбы с "порноместью" не полностью автоматизирована - о том, что модераторы будут вручную изучать фотографии, позже узнали журналисты.

Ранее в компании говорили, что их сотрудник увидит только зарисованный снимок с обнаженным пользователем. Однако в открытом письме Антигоны Дэвис ничего не говорится о том, что модераторы Facebook увидят размытые кадры. Motherboard третий раз спросил пресс-службу соцсети, которая призналась - никакого размытия на самом деле не будет.