Aлгoритм aвтoмaтичeски пoстaвил пoст с угрозой в главное изображение рекламного поста в Facebook.
Instagram использовал служба своего пользователя, специальной корреспондентки издания The Guardian, Оливии Стоун, для того рекламы социальной сети в Facebook. Пост содержал скрин корреспонденция с угрозами Стоун, который журналистка опубликовала в Instagram год взад.
В полученном письме были обнаружены оскорбления и угрозы. Точно по словам Оливии, Facebook отправил ее сестре предложение пасти за Instagram-аккаунт журналистки и, как пример ее публикаций, прикрепил оный самый пост с угрозами об изнасиловании.
Операционный руководитель Facebook Шерил Сендерберг, комментируя эту ситуацию, отметила, словно в компании появятся новые работники, которые будут следить из-за поисковыми словами подобного характера.
Мы никогда отнюдь не рассчитали, что функциональность системы может быть применена подобным образом, – сказала симпатия.