Модераторы WhatsApp читают ваши сообщения

WhatsApp уверяет своих пользователей, что никто кроме них самих и получателей не видит их сообщения, однако компания имеет специальное оборудование для мониторинга персональной информации и регулярно делится ею с органами прокуратуры.

Когда в 2019-м году основатель Facebook Марк Цукерберг огласил свое новое видение "приватности" для Facebook, он упомянул WhatsApp, как идеальную модель для основы. Признавая, что компания не имеет хорошей репутации для создания сервисов, защищающих приватность, основатель Facebook написал, что верит в то, что коммуникации быстрыми темпами станут более приватными, используя закодированные системы, где люди будут уверены, что все, что они говорят друг другу будет защищено. Это и есть будущее, которое Марк, по его словам, хочет воплотить в реальность. "Именно так мы хотим развивать систему, как мы делали это с WhatsApp", - сказал он.

Видение Цукерберга было сосредоточено на уникальной для WhatsApp функции, которую, по его словам, компания планировала применить к Instagram и Facebook Messenger: сквозное шифрование, которое преобразует все сообщения в нечитаемый формат, который разблокируется только тогда, когда они достигают предполагаемого места назначения. По его словам, сообщения WhatsApp настолько безопасны, что никто, даже компания, не может прочитать ни слова. Как сказал Цукерберг ранее, давая показания в Сенате США в 2018 году, "мы не видим никакого контента в WhatsApp".

WhatsApp так сильно зациклен на этом моменте, что перед отправкой сообщений пользователям автоматически показывается уведомление о так называемой гарантии: "Никто вне этого чата, даже WhatsApp, не может читать или слушать ваши сообщения".

Не смотря на все эти "гарантии", вы будете удивлены узнать, что WhatsApp имеет более 1000 сотрудников, дислоцированных в офисах в Остине, Техасе, Дублине и Сингапуре. Сидя за компьютером и используя спецоборудование Facebook, эти работники часами просматривают и следят за миллионами приватных сообщений, фото и видео. Наблюдая за потоком информации, они решают, что является спамом, обманом, детской порнографией или потенциальной террористической атакой. 

Как выяснило издание ProPublica, которая специализируется на разоблачении злоупотребления властью и выявлении предательства общественного доверия со стороны правительства, бизнеса и других учреждений, используя моральную силу журналистских расследований, у сотрудников этих мониторинговых центров есть доступ только к подмножеству сообщений WhatsApp, которые помечаются пользователями и автоматически перенаправляются в компанию как потенциально оскорбительные. Проверка является одним из элементов более широкой операции мониторинга, в ходе которой компания также проверяет незашифрованные материалы, включая данные об отправителе и его учетной записи.

Круглосуточное наблюдение за пользователями и постоянные обещания о непрекосновенности частной жизни конфликтуют друг с другом и создают проблемы для WhatsApp.

Директор по коммуникациям WhatsApp Карл Вуг признал, что группы сотрудников в Остине и других местах просматривают сообщения пользователей, чтобы "выявлять и блокировать "худших" злоумышленников". Но Вуг сказал ProPublica, что компания не считает эту работу модерацией контента. "На самом деле мы обычно не используем этот термин для WhatsApp", - заявил он. Компания отказалась предоставить журналистам эксклюзивные комментарии для статьи, но ответила на вопросы письменно. "WhatsApp - это спасательный круг для миллионов людей во всем мире. Решения, которые мы принимаем в отношении того, как мы создаем наше приложение, ориентированы на конфиденциальность наших пользователей, поддержание высокой степени надежности", - заверило руководство мессенджера.

Отрицание WhatsApp того, что он модерирует контент, заметно отличается от того, как компания Facebook Inc. говорит о его корпоративных сестрах, соцсетях Instagram и Facebook. Компания заявила, что около 15 000 модераторов просматривают контент, ни один из которых не зашифрован. Ежеквартально публикуются отчеты о прозрачности, в которых подробно описывается, в отношении скольких учетных записей Facebook и Instagram были "приняты меры". Подобной прозрачности нет для WhatsApp.

Создание армии модераторов контента - лишь один из способов, которыми Facebook Inc. поставил под угрозу конфиденциальность пользователей WhatsApp. В совокупности действия компании сделали WhatsApp гораздо менее конфиденциальным, чем его пользователи, вероятно, понимают или ожидают. Расследование ProPublica, основанное на данных, документах и десятках интервью с нынешними и бывшими сотрудниками и подрядчиками, показывает, как с момента покупки WhatsApp в 2014 году Facebook незаметно подорвал свои всеобъемлющие гарантии безопасности множеством способов.

Многие утверждения подтверждаются тем, что некоторые из модераторов контента, работающих в WhatsApp, подали конфиденциальную жалобу в Комиссию по ценным бумагам и биржам США. В жалобе, полученной ProPublica, подробно описывается широкое использование WhatsApp внешних подрядчиков, систем искусственного интеллекта и информации об учетных записях для проверки сообщений, изображений и видео пользователей. Они утверждает, что заявления компании о защите конфиденциальности пользователей являются ложными. Тем временем в Facebook заявили, что подобных проблем не существует и никаких жалоб нет. Комиссия по ценным бумагам и биржам также не предприняла никаких публичных действий по этому поводу; представитель агентства отказался от комментариев.

Известно, что Facebook Inc. также намеренно занижает объем данных, которые компания собирает, чтобы отправить их в правоохранительные органы. Например, WhatsApp передает метаданные, незашифрованные записи, которые могут многое рассказать о действиях пользователя, правоохранительным органам, таким как Министерство юстиции. Некоторые конкуренты, такие как Signal, намеренно собирают гораздо меньше метаданных, чтобы избежать посягательств на конфиденциальность своих пользователей, и, таким образом, делятся гораздо меньшим объемом с правоохранительными органами.

Данные пользователей WhatsApp, как стало известно ProPublica, помогли прокурорам построить громкое дело против сотрудника министерства финансов, который слил в BuzzFeed News конфиденциальные документы, раскрывающие, как грязные деньги проходят через банки США.

Как и другие социальные сети и коммуникационные платформы, WhatsApp находится между пользователями, которые ожидают конфиденциальности, и правоохранительными органами, которые фактически требуют обратного: чтобы WhatsApp передавал информацию, которая поможет бороться с преступностью и злоупотреблениями в Интернете. WhatsApp ответил на эту дилемму, заявив, что это вообще не дилемма. "Я думаю, что мы абсолютно можем обеспечить безопасность людей с помощью сквозного шифрования и работать с правоохранительными органами над раскрытием преступлений", - сказал Уилл Кэткарт, глава WhatsApp в интервью австралийскому аналитическому центру, опубликованному на YouTube.

Противоречие между конфиденциальностью и передачей информации правоохранительным органам усугубляется еще одним давлением: необходимостью Facebook зарабатывать деньги на WhatsApp. С тех пор, как в 2014 году Facebook заплатил 22 миллиарда долларов за покупку мессенджера, компания пытается выяснить, как получить прибыль от сервиса, который не взимает с пользователей ни копейки.

Эта загадка периодически приводила к действиям, которые вызывали гнев пользователей и регулирующих органов. Цель монетизации приложения была частью решения компании в 2016 году начать делиться данными пользователей WhatsApp с Facebook. Тот же импульс спровоцировал спорный план, от которого отказались в конце 2019 года, по продаже рекламы в WhatsApp. И мандат на получение прибыли лежал в основе другой неудачной инициативы в январе: введения новой политики конфиденциальности для взаимодействия пользователей с предприятиями в WhatsApp, позволяющей предприятиям использовать данные клиентов по-новому. Это объявление вызвало массовый уход пользователей в конкурирующие приложения, например, в Телеграм.

Еще один, более агрессивный бизнес-план WhatsApp, направлен на взимание с компаний платы за целый ряд услуг - предоставление пользователям возможности совершать платежи через WhatsApp и управление чатами обслуживания клиентов - которые предлагают удобство, но меньшую защиту конфиденциальности. Результатом является запутанная двухуровневая система конфиденциальности в одном приложении, где защита сквозного шифрования еще больше подрывается, когда пользователи WhatsApp используют сервис для связи с компаниями.

Как работают модераторы

Согласно интервью с 29 нынешними и бывшими модераторами, во многом опыт модератора контента в WhatsApp в Остине идентичен работе модератора в Facebook или Instagram. В основном это люди в возрасте от 20 до 30 лет, многие из которых в прошлом работали клерками в магазинах, контролерами продуктовых магазинов и бариста. Модераторы нанимаются и нанимаются компанией Accenture, крупным корпоративным подрядчиком, который работает на Facebook и других гигантов.

В списках вакансий рекламируются позиции "Content Review" и не упоминаются Facebook или WhatsApp. В документах о трудоустройстве начальное звание работника указано как "сотрудник по модерации контента". Заработок начинается примерно с 16,50 долларов в час. Модераторы должны сообщить всем, кто спрашивает, что они работают в Accenture, и должны подписать широкие соглашения о неразглашении информации. Почти все нынешние и бывшие модераторы, опрошенные ProPublica, настаивали на анонимности. Представитель Accenture также отказался от комментариев.

Когда команда WhatsApp была собрана в Остине в 2019 году, модераторы Facebook уже занимали четвертый этаж офисной башни на Шестой улице, рядом со знаменитой городской сценой с барами и музыкой. Команда WhatsApp была размещена этажом выше, с новыми застекленными рабочими местами и более красивыми ванными комнатами, которые вызвали нотку зависти у некоторых членов команды Facebook. Большая часть команды WhatsApp разбежалась работать из дома во время пандемии. Будь то в офисе или дома, они проводят дни перед экранами, используя программный инструмент Facebook для проверки потока сообщений и информации.

Коллективно сотрудники каждую неделю внимательно изучают миллионы элементов контента WhatsApp. Каждый рецензент обрабатывает до 600 билетов в день. WhatsApp отказался сообщить, сколько сотрудников по контракту наняты для проверки контента, но частичный список персонала, рассмотренный ProPublica, предполагает, что только в Accenture их больше 1000.

Их работа отличается в других отношениях. Поскольку контент WhatsApp зашифрован, системы искусственного интеллекта не могут автоматически сканировать все чаты, изображения и видео, как в Facebook и Instagram. Вместо этого обозреватели WhatsApp получают доступ к личному контенту. По словам бывших инженеров и модераторов WhatsApp, он пересылает пять сообщений - одно предположительно оскорбительное вместе с четырьмя предыдущими, включая любые изображения или видео в незашифрованном виде.

Искусственный интеллект инициирует второй набор очередей - так называемые проактивные - путем сканирования незашифрованных данных, которые WhatsApp собирает о своих пользователях, и сравнения их с подозрительной информацией учетной записи и схемами обмена сообщениями (новая учетная запись, быстро отправляющая большое количество чатов, свидетельствует о том, что спам), а также термины и изображения, которые ранее считались оскорбительными. Незашифрованные данные включают в себя имена и изображения профилей групп WhatsApp пользователя, а также их номер телефона, фото профиля, сообщение о состоянии, уровень заряда аккумулятора телефона, язык и часовой пояс, уникальный идентификатор мобильного телефона и IP-адрес, мощность беспроводного сигнала и операционную систему телефона, в качестве списка их электронных устройств, любых связанных учетных записей Facebook и Instagram, времени последнего использования приложения и любой предыдущей истории нарушений.

У обозревателей WhatsApp есть три варианта действий, когда им предоставляется билет для любого типа очереди: ничего не делать, поставить пользователя "под наблюдение" для дальнейшего изучения или заблокировать учетную запись. Модераторы контента Facebook и Instagram имеют больше возможностей, в том числе удаление отдельных публикаций. Именно это различие - тот факт, что рецензенты WhatsApp не могут удалять отдельные элементы, - приводит компания в качестве основания для утверждения, что рецензенты WhatsApp не являются "модераторами контента".

Модераторы WhatsApp должны давать субъективные, деликатные и тонкие суждения, интервью и документы, проверенные ProPublica show. Они исследуют широкий спектр категорий, включая "Отчет о спаме", "Плохой гражданин" (политическая ненависть и дезинформация), "Глобальная достоверная угроза терроризма", "CEI" (изображения детской эксплуатации) и "CP" (детская порнография). Другой набор категорий касается обмена сообщениями и поведения миллионов малых и крупных бизнесов, которые используют WhatsApp для общения с покупателями и продажи своих товаров. У этих очередей есть такие заголовки, как "распространенность выдачи себя за бизнес", "вероятные нарушители коммерческой политики" и "проверка бизнеса".

Модераторы говорят, что руководство, которое они получают от WhatsApp и Accenture, основано на стандартах, которые могут быть одновременно загадочными и пугающе наглядными. Например, решения о оскорбительных сексуальных образах могут основываться на оценке того, выглядит ли обнаженный ребенок на изображении подростком или препубертатным, на основе сравнения тазовых костей и лобковых волос с диаграммой медицинского индекса. Один рецензент вспомнил зернистое видео в очереди с политическими выступлениями, на котором был изображен мужчина с мачете, держащий в руках нечто похожее на отрубленную голову: "Мы должны были посмотреть и сказать: это настоящее мертвое тело или нет?".

В конце 2020 года модераторы были проинформированы о "сексторции". В пояснительной записке это было определено как "форма сексуальной эксплуатации, при которой людей шантажируют обнаженным изображением, которым они или кто-то еще поделились в Интернете". В служебной записке говорилось, что работники будут просматривать сообщения, отправленные пользователями, которые "включают заранее определенные ключевые слова, обычно используемые в сообщениях о шантаже".

Системе обзора WhatsApp мешают препятствия, в том числе неверный языковой перевод. У сервиса есть пользователи в 180 странах, подавляющее большинство из которых находится за пределами США. Несмотря на то, что Accenture нанимает сотрудников, говорящих на разных языках, для сообщений на некоторых языках часто нет перевода для оценки жалоб. Этот процесс может быть полон ошибок и недоразумений. Модераторы часто выявляли "продажу оружия", когда как люди продавали бритвы для бритья. Продажа женского белья помечалась, как "сексуально ориентированный бизнес", продажа детской одежды, как "детская порнография" и т.д.

Надежность системы также подрывается шутками людей. По словам модераторов, им часто приходят сообщения, которые на самом деле являются проказой и розыгрышем между друзьями, но система видит их в качестве опасности.

По словам модераторов, оценка искусственного интеллекта WhatsApp далеко не идеальна. "Там было много невинных фотографий, которым было запрещено размещаться", - сказал один из них. "Это могло быть фото ребенка, принимающего ванну, и в этом не было ничего плохого". Как сказал другой модератор WhatsApp: "В большинстве случаев искусственный интеллект определенно глуп".

Письменное руководство Facebook для модераторов WhatsApp признает множество проблем, отмечая, что "мы совершали ошибки, и наши политика использовались злоумышленниками в качестве оружия, чтобы забанить хороших пользователей".

Как Цукерберг обманывает миллиарды пользователей

С того момента, как Facebook объявил о планах покупки WhatsApp в 2014 году, наблюдатели задавались вопросом, как сервис, известный своей страстной приверженностью конфиденциальности, будет жить в корпорации, известной своей противоположностью. Цукерберг стал одним из самых богатых людей на планете, собирая и используя множество пользовательских данных для продажи целевой цифровой рекламы. Неустанное стремление Facebook к росту и прибылям вызвало серию скандалов в отношении конфиденциальности, в которых его обвинили в обмане клиентов и регулирующих органов.

В то время WhatsApp мало что знала о своих пользователях, кроме их номеров телефонов, и не передавала эту информацию третьим лицам. В WhatsApp не было рекламы, и его соучредители Ян Кум и Брайан Эктон, бывшие инженеры Yahoo. "В каждой компании, которая продает рекламу", - писали они в 2012 году, - "значительная часть их команды инженеров тратит свой день на настройку интеллектуального анализа данных, написание лучшего кода для сбора всех ваших личных данных, обновление серверов, на которых хранятся все данные, и обеспечение того, чтобы все это регистрируется, сопоставляется, нарезается, упаковывается и отправляется. Помните, что когда речь идет о рекламе, вы, пользователь, являетесь продуктом".

В программной речи 2014 года Цукерберг публично пообещал, что он сохранит WhatsApp "точно таким же". Он заявил: "Мы абсолютно не собираемся менять планы в отношении WhatsApp и способа использования пользовательских данных. WhatsApp будет работать полностью автономно".

В апреле 2016 года WhatsApp завершил давно запланированный переход на сквозное шифрование, благодаря которому приложение стало популярной коммуникационной платформой в 180 странах, в том числе во многих странах, где текстовые сообщения и телефонные звонки являются непомерно дорогими. Международные диссиденты, информаторы и журналисты также обращались к WhatsApp, чтобы избежать подслушивания со стороны правительства.

Однако четыре месяца спустя WhatsApp объявил, что начнет делиться пользовательскими данными с Facebook - именно этого, по словам Цукерберга, не должно было произойти. В новых условиях обслуживания WhatsApp говорится, что приложение будет обмениваться информацией, такой как номера телефонов пользователей, фотографии профилей, статусные сообщения и IP-адреса, для таргетинга рекламы, борьбы со спамом и злоупотреблениями и сбора показателей. "Соединив свой номер телефона с системами Facebook, - поясняет WhatsApp, - Facebook может предложить более качественные предложения друзей и показать вам более релевантную рекламу, если у вас есть учетная запись с ними".

Подобные действия все чаще привлекали внимание регулирующих органов к Facebook. В мае 2017 года антимонопольные органы Европейского союза оштрафовали компанию на 110 миллионов евро (около 122 миллионов долларов) за ложное заявление тремя годами ранее о невозможности связать информацию о пользователях между WhatsApp и семейством приложений Facebook. ЕС пришел к выводу, что Facebook "намеренно или по неосторожности" обманул регулирующие органы.

К весне 2018 года соучредители WhatsApp, теперь оба миллиардеры, уволились. Эктон, который позже покаялся за продажу мессенджра, подарил 50 миллионов долларов фонду, поддерживающему Signal, бесплатное приложение для обмена зашифрованными сообщениями, которое станет конкурентом WhatsApp.

Между тем, Facebook как никогда ранее подвергся критике из-за проблем с безопасностью и конфиденциальностью. Кульминацией давления стал знаковый штраф в размере 5 миллиардов долларов Федеральной торговой комиссией в июле 2019 года за нарушение предыдущего соглашения о защите конфиденциальности пользователей. По данным FTC, штраф был почти в 20 раз больше, чем любой предыдущий штраф, связанный с конфиденциальностью, а нарушения Facebook включали "обман пользователей относительно их способности контролировать конфиденциальность их личной информации".

FTC объявила, что приказывает Facebook предпринять шаги по защите конфиденциальности в будущем, в том числе для пользователей WhatsApp: "В рамках обязательной программы конфиденциальности Facebook, которая охватывает WhatsApp и Instagram, Facebook должен проводить проверку конфиденциальности каждого нового или измененного продукта, услуги или практики до того, как они будут внедрены, и задокументировать свои решения о конфиденциальности пользователей". Специалисты по комплаенсу должны будут составлять "ежеквартальный отчет о проверке конфиденциальности" и передавать его компании и, по запросу, FTC.

Facebook согласился на штраф и приказ Федеральной торговой комиссии. Действительно, переговоры по этому соглашению всего за четыре месяца до этого стали фоном для заявления Цукерберга о своей новой приверженности конфиденциальности.

К тому моменту WhatsApp начал использовать Accenture и других внешних подрядчиков для найма сотен рецензентов контента. Но компания не хотела нарушать свое более крупное сообщение о конфиденциальности и не пугать свою глобальную базу пользователей. Поэтому они скрыли найм подрядчиков для проверки контента.

Даже когда Цукерберг рекламировал новую приверженность Facebook Inc. конфиденциальности в 2019 году, он не упомянул, что его компания делится метаданными своих пользователей и с правоохранительными органами.

Для непрофессионала термин "метаданные" может звучать абстрактно - слово, которое вызывает ассоциации с литературной критикой и статистикой. Используя старую, доцифровую аналогию, метаданные - это эквивалент того, что написано на внешней стороне конверта - имена и адреса отправителя и получателя, а также почтовый штемпель, отражающий, где и когда он был отправлен, - в то время как "содержание" что написано на письме, запечатанном внутри конверта. То же самое и с сообщениями WhatsApp: контент защищен, но конверт показывает множество важных деталей (как уже отмечалось: отметки времени, номера телефонов и многое другое).

Специалисты в области информации и разведки понимают, насколько важной может быть эта информация. В конце концов, это были метаданные, которые Агентство национальной безопасности собирало о миллионах американцев, не подозреваемых в преступлении, что вызвало глобальный протест, когда они были разоблачены в 2013 году Эдвардом Сноуденом.

Правоохранительные органы США использовали метаданные WhatsApp, чтобы сажать людей в тюрьму. ProPublica обнаружила более десятка случаев, когда Министерство юстиции запрашивало судебные постановления для метаданных платформы с 2017 года. Они представляют собой долю от общего числа запросов, известных как приказы перьевого регистра (фраза, заимствованная из технологии, используемой для отслеживания номеров, набираемых с стационарных телефонов), так как многие другие скрываются от общественности по решению суда. Согласно статистике Facebook Inc. (без разбивки по платформам), количество запросов правительства США на получение данных об исходящих и входящих сообщениях со всех платформ Facebook увеличилось на 276% с первой половины 2017 года до второй половины 2020 года. Скорость передачи компанией хотя бы некоторых данных в ответ на такие запросы выросла с 84% до 95% за этот период.

Неясно, что именно правительственные следователи смогли собрать из WhatsApp, поскольку результаты этих заказов также часто скрываются от общественности. Внутри WhatsApp называет такие запросы информации о пользователях "предполагаемыми парами сообщений" или PMP. Они предоставляют данные о моделях обмена сообщениями пользователя в ответ на запросы правоохранительных органов США, а также как минимум в трех других странах - Великобритании, Бразилии и Индии - по словам человека, знакомого с этим вопросом, который поделился этой информацией на условие анонимности. Запросы правоохранительных органов из других стран могут получать только базовую информацию профиля подписчика.

Метаданные WhatsApp сыграли решающую роль в аресте и осуждении Натали "Мэй" Эдвардс, бывшего сотрудника Министерства финансов из Сети по борьбе с финансовыми преступлениями, за утечку конфиденциальных банковских отчетов о подозрительных транзакциях в BuzzFeed News. В уголовном иске ФБР подробно описаны сотни сообщений между Эдвардсом и репортером BuzzFeed с использованием "зашифрованного приложения", которое, как подтвердили интервью и судебные протоколы, было WhatsApp. Эдвардс и репортер использовали WhatsApp, потому что Эдвардс считала платформу безопасной, по словам человека, знакомого с этим вопросом. Эдвардс была приговорена к шести месяцам тюремного заключения после того, как признала себя виновной.

WhatsApp в течение многих лет преуменьшал объем незашифрованной информации, которой он делится с правоохранительными органами, в значительной степени ограничивая упоминания об этой практике шаблонными формулировками, глубоко укоренившимися в условиях обслуживания.

Страница конфиденциальности WhatsApp гарантирует пользователям полный контроль над своими метаданными. В нем говорится, что пользователи могут "решать, могут ли только контакты, все или никто не видеть вашу фотографию профиля", или когда они в последний раз открывали обновления своего статуса или когда они последний раз открывали приложение. Независимо от настроек, которые выбирает пользователь, WhatsApp собирает и анализирует все эти данные. Этот факт тщательно скрывается.