Представители рабочей группы США по расследованию преступлений против детей в Интернете (ICAC) заявили, что использование Meta программного обеспечения с искусственным интеллектом для контроля над своими платформами социальных сетей приводит к созданию большого количества бесполезных отчетов о случаях сексуального насилия над детьми, истощает ресурсы и препятствует расследованиям.
«Мы получаем много советов от Меты, которые в некоторой степени бесполезны», – сказал Бенджамин Цвибель, специальный агент оперативной группы ICAC в Нью-Мексико, во время своих показаний по иску штата против Меты на прошлой неделе. Генеральный прокурор штата утверждает, что платформы компании получают прибыль за счет безопасности детей. Meta оспаривает эти обвинения, ссылаясь на изменения, внесенные в ее платформу, например, на то, что подростковые учетные записи имеют защиту по умолчанию. Рабочая группа ICAC — это общенациональная сеть правоохранительных органов, сотрудничающая с Министерством юстиции США, которая занимается расследованием и судебным преследованием случаев онлайн-эксплуатации и жестокого обращения с детьми.
Другой представитель ICAC, выступавший на условиях анонимности для обсуждения внутренних вопросов, сказал: «Мета предоставляет тысячи советов каждый месяц. Это ошеломляет, потому что мы получаем много отчетов, но качество отчетов действительно недостает с точки зрения нашей способности предпринимать серьезные действия». Представитель МКАС сообщил, что общее количество киберсоветов, полученных его ведомством, удвоилось с 2024 по 2025 год.
Цвайбель и два представителя МКАС заявили, что непроверенные предложения Instagram, Facebook и WhatsApp в некоторых случаях содержат информацию, не являющуюся криминальной. Анонимные чиновники заявили, что подсказки иногда содержат информацию, указывающую на то, что преступление произошло, однако важные изображения, видео или текст отсутствуют или отредактированы.
“[Unviable tips from] Instagram в последнее время резко вырос, особенно в последние несколько месяцев, и это одно из крупнейших мест, где мы видим, что информация не предоставляется», — сказал представитель ICAC. «В таких случаях у нас нет информации для продолжения расследования. «Вы должны знать, что это преступление произошло, но мы не можем установить виновного».
Отвечая на вопрос о показаниях Цвайбеля и комментариях должностных лиц ICAC, представитель Meta сказал: «Мы годами поддерживали правоохранительные органы в преследовании преступников: Министерство юстиции неоднократно хвалило наше быстрое сотрудничество, которое помогло произвести аресты, а NCMEC похвалил нашу оптимизацию и «улучшения».[d]«Процесс отчетности по чаевым. В 2024 году мы получили более 9000 экстренных запросов от властей США и разрешили их в среднем за 67 минут, а в случаях, связанных с безопасностью детей и самоубийствами, — еще быстрее. В соответствии с действующим законодательством мы также сообщаем в NCMEC об откровенных изображениях сексуального насилия над детьми и поддерживаем их в определении приоритетности отчетов: от помощи в создании инструментов ведения дел до маркировки киберсоветов, чтобы они знали, какие из них являются срочными.
Компания сообщила, что агент Цвайбель рекомендовал использовать функцию подростковых учетных записей Меты во время своих показаний, заявив, что он сделал это, «потому что это единственный доступный вариант, полагая, что подростки не будут воздерживаться от использования социальных сетей».
Генеральный прокурор Нью-Мексико Рауль Торрес, который ведет дело против Меты, признал сотрудничество компании в обеспечении лидерства в борьбе с жестоким обращением с детьми в иске: «Я хочу отдать должное некоторым приложениям и платформам социальных сетей, включая Meta, в некоторой степени за то, в какой степени они передают изображения в Национальный центр по делам пропавших и эксплуатируемых детей».
Материалы, опубликованные по делу в пятницу, показывают, что в начале 2019 года чиновники Meta выдвинули внутренние предупреждения по поводу способности компании контролировать сексуальное насилие над детьми и предупреждать правоохранительные органы. В то время компания готовилась включить сквозное шифрование в Facebook Messenger, которое скрывает сообщения пользователей от кого-либо, кроме предполагаемого получателя, с помощью криптографии.
Подача документов вызывает новые вопросы
Моника Бикерт, руководитель отдела контентной политики Meta, написала: «Как компания, мы собираемся поступить плохо. Это глубоко безответственно».
Бикерт В нем написано, что если бы контент Messenger был зашифрован, «не было бы возможности обнаружить планирование терактов или эксплуатацию детей», что могло бы затруднить работу с правоохранительными органами. Бикерт также заявил, что Мета, согласно внутренним документам, «в корне искажает информацию о нашей способности проводить операции по обеспечению безопасности».
В другом документе сотрудники Meta подсчитали, что шифрование Messenger сделает компанию «неспособной активно предоставлять правоохранительным органам данные по 600 случаям жестокого обращения с детьми, 1454 случаям сексуального вымогательства, 152 случаям терроризма, 9 угрозам расстрела в школах».
Представитель Meta Энди Стоун заявил Reuters: «Опасения, поднятые в 2019 году, представляют собой ту же причину, по которой мы разработали ряд новых функций безопасности, помогающих обнаруживать и предотвращать злоупотребления, и все они предназначены для работы в зашифрованных чатах».
Группы защиты детей раскритиковали шифрование мессенджера, которое в итоге вступило в силу в 2023 году.
Коллективное сообщение о жестоком обращении с детьми
По закону компании социальных сетей, базирующиеся в США, обязаны сообщать о любых материалах, посвященных сексуальной эксплуатации детей (CSAM), обнаруженных на их платформах, в Национальный центр по делам пропавших и эксплуатируемых детей (NCMEC). NCMEC служит национальным центром обмена отчетами, которые пересылаются в соответствующие правоохранительные органы в США и за рубежом. NCMEC не имеет полномочий отфильтровывать любые предложения, которые могут оказаться невыполнимыми, до их отправки в соответствующие правоохранительные органы.
Meta — крупнейший репортер NCMEC на сегодняшний день. В своем отчете о данных за 2024 год NCMEC сообщила, что Meta отправила 13,8 миллиона сообщений в Facebook, Instagram и WhatsApp, из которых получила в общей сложности 20,5 миллиона советов.
В NCMEC заявили, что в 2024 году более 1 миллиона сообщений о кибер-информациях были связаны с конкретным штатом США, и эти отчеты были предоставлены оперативным группам ICAC по всей стране, а также другим федеральным, государственным и местным правоохранительным органам для расследования.
Meta и другие компании, занимающиеся социальными сетями, используют ИИ для обнаружения подозрительного контента на своих сайтах и сообщения о нем, а также нанимают модераторов для проверки некоторого помеченного контента перед отправкой его в правоохранительные органы. The Guardian ранее сообщала, что советы, созданные ИИ, которые даже не были проверены сотрудником компании, занимающейся социальными сетями, часто не могут быть открыты без ордера сотрудника правоохранительных органов из-за защиты Четвертой поправки. Юристы, занимающиеся такими делами, говорят, что этот дополнительный шаг также замедляет расследование потенциальных преступлений.
Представитель Meta сказал: «К сожалению, судебные решения увеличивают нагрузку на правоохранительные органы, требуя от нас искать ордера на обыск для обнаружения идентичных копий контента, который мы уже рассмотрели и сообщили. Наша система сопоставления изображений находит копии известных случаев эксплуатации детей в масштабах, которые было бы невозможно сделать вручную, и мы продолжаем обнаруживать новый контент об эксплуатации детей с помощью технологий, отчетов нашего сообщества и расследований, проводимых нашими экспертными группами по защите детей. «Работайте ради».
Законодательные изменения вызвали поток предложений
В соответствии с Законом об отчетах (пересмотр существующих процедур сообщения с помощью технологий), который вступил в силу в ноябре 2024 года, поставщики онлайн-услуг должны расширить и усилить свои обязательства по отчетности, сообщая на Кибер-горячую линию NCMEC не только о материалах, посвященных сексуальной эксплуатации детей, но также о запланированном или неминуемом насилии, торговле детьми в целях сексуальной эксплуатации и связанной с ними эксплуатации; Им придется хранить доказательства в течение более длительных периодов времени, и им грозят более серьезные штрафы, если они умышленно не соблюдают требования.
С момента принятия закона количество нежизнеспособных чаевых, поставляемых Meta, резко возросло, возможно, это связано с тем, что компания старается не нарушать закон, заявили два представителя ICAC. Многие из этих тактик не могут считаться преступлением, например, когда девочки-подростки рассказывают о том, каких знаменитостей они считают наиболее привлекательными.
Цвибель заявил в суде: «Исходя из моего образования и опыта, похоже, что они представлены с использованием ИИ, потому что это распространенные ошибки, которые ИИ может совершить, но не допустит человек-наблюдатель».
Напротив, отдел Звибеля получает от Meta значительно меньше информации о законных случаях распространения материалов о сексуальном насилии над детьми (CSAM), чем в предыдущие годы, сказал он.
Два офицера заявили, что каждое сообщение, поступающее в подразделение ICAC, должно быть проверено, и что приток нежизнеспособных сообщений отнимает время и ресурсы у расследования законных случаев жестокого обращения с детьми.
Представитель ICAC заявил: «Это убивает моральный дух. Мы тонем в тактике, и мы хотим выбраться и заставить это работать». «У нас нет персонала, чтобы его обслуживать. Мы никак не сможем справиться с приближающимся наводнением».
