Как Фейсбук мониторит личные сообщения всех пользователей

Недавно мы уже писали про сотрудничество социальной сети №1 c полицией - тогда это помогло поймать опасного убийцу (Craigslist Killer) в США. Фейсбук предоставил не только IP логи, телефоны и имейлы, но также все личные сообщения.

Джо Салливан, директор по информационной безопасности компании Facebook, дал интервью агентству Reuters . Он заявил, что Фейсбук занимается автоматическим мониторингом всех личных сообщений всех пользователей с помощью специального алгоритма.



Салливан приводит пример работы системы:

Тридцатилетний мужчина общался с тринадцатилетней девочкой на тему секса и хотел встретить ее на следующий день после школы. Алгоритм Facebook для мониторинга чатов пользователей решил, что беседа подозрительная и сообщил об этом в службу безопасности Фейсбука. Сотрудники социальной сети просмотрели чат и сразу обратились в полицию. На следующий день педофила арестовали.

Между тем, в справочном центре Фейсбука не указано, что администрация соцсети постоянно читает личные сообщения пользователей, а делает это только по решению суда:

We work with law enforcement where appropriate and to the extent required by law to ensure the safety of the people who use Facebook. We may disclose information pursuant to subpoenas, court orders, or other requests (including criminal and civil matters) if we have a good faith belief that the response is required by law.

Неужели все ЛС пользователей лежат перед сотрудниками Facebook, как на ладони?

В Фейсбуке говорят, что нет. Система лишь отыскивает в чатах пользователей конкретные фразы, принимая во внимание возрастную разницу между собеседниками. Большое внимание уделяется словам, которые обычно употребляются сексуальными маньяками и убийцами ("имхо", "есессно", "лол" и другие). Только если система сочтет переписку подозрительной, она отправляется на рассмотрение сотрудникам.

Надежда на систему мониторинга, которая безотказно работает и не отправляет модераторам все чаты со словом "секс":

We've never wanted to set up an environment where we have employees looking at private communications, so it's really important that we use technology that has a very low false-positive rate

Представитель полиции Флориды надеется на дальнейшее улучшение алгоритмов:

I feel for every one we arrest, ten others get through the system," Florida's Duncan said of tips from Facebook and other companies.

Эти инициативы в любом случае лучше, чем попытки создать "черный список" сайтов или закрыть какую-то социальную сеть только из-за того, что там зарегистрированы антисоциальные элементы.

А вот, кстати, и идея стартапа - придумать алгоритм для какой-нибудь российской социальной соцсети, который будет автоматически анализировать чаты и отправлять на модерацию те, в которых затевается что-то противозаконное.

---