Max Home IndustryКомпания Meta заявила, что позднее в этом году запустит новый инструмент безопасности, который будет блокировать получение детьми изображений и отговаривать их от отправки обнаженных изображений, в том числе в зашифрованных чатах.
Этот инструмент, скорее всего, будет необязательным и доступен для взрослых в Instagram и Facebook.
Это следует за критикой со стороны правительства и полиции после того, как Meta начала по умолчанию шифровать чаты Messenger.
Они говорят, что шифрование затруднит обнаружение жестокого обращения с детьми.
По словам Meta, новая функция предназначена исключительно для защиты пользователей, особенно женщин и подростков (детям до 13 лет не разрешается использовать платформу), от отправки обнаженных изображений или давления с целью их отправки.
Также было объявлено, что несовершеннолетние по умолчанию не смогут получать сообщения в Instagram и Messenger от незнакомцев.
Ранее в этом месяце начальники полиции заявили, что молодые люди, рассылающие обнаженные изображения, способствовали росту числа сексуальных преступлений, совершаемых детьми в Англии и Уэльсе.
А в судебных документах, недавно обнародованных в рамках иска США против Meta, утверждается, что документы компании показывают, что около 100 000 подростков-пользователей Facebook и Instagram ежедневно подвергаются сексуальным домогательствам в Интернете. Meta обвинила иск в неверной характеристике ее работы.
Но в четверг технологический гигант представил запланированную новую функцию, которая поможет защитить подростков от неуместных изображений в их сообщениях.
Эта система также будет работать в зашифрованных чатах, более подробная информация будет раскрыта позднее в этом году.
Недавнее решение Meta защитить чаты Facebook Messenger по умолчанию с помощью сквозного шифрования (e2ee) подверглось резкой критике со стороны правительства, полиции и ведущих детских благотворительных организаций.
E2ee означает, что только отправитель и получатель могут читать сообщения. Это означает, по словам критиков, что Meta не может обнаружить и сообщить о материалах о жестоком обращении с детьми в сообщениях.
Другие приложения для обмена сообщениями, такие как Apple iMessage, Signal и WhatsApp, уже принадлежащие Meta, используют эту технологию и решительно ее защищают.
Однако некоторые критики говорят, что платформа должна использовать метод, называемый сканированием на стороне клиента, для обнаружения случаев жестокого обращения с детьми, отправляемых через зашифрованные приложения.
Сканирование на стороне клиента — это система на устройстве пользователя, которая сканирует сообщения на наличие совпадений с известными изображениями жестокого обращения с детьми, прежде чем они зашифровываются и отправляются, и сообщает компании обо всех сообщениях, содержащих предположительно незаконный контент.
Детская благотворительная организация NSPCC предложила новую систему Meta «показывает, что компромиссы, позволяющие сбалансировать права безопасности и конфиденциальности пользователей в средах со сквозным шифрованием, возможны».
Согласно заявлению Meta, его новой функцией является не сканирование на стороне клиента, которое, по мнению компании, подрывает главную функцию шифрования конфиденциальности, заключающуюся в том, что только отправитель и получатель знают о содержании сообщений.
Как понимает BBC, он будет использовать машинное обучение только для выявления наготы и будет полностью работать на устройстве. По словам Меты, использовать машинное обучение для выявления случаев жестокого обращения с детьми гораздо сложнее, и существует серьезный риск ошибок, если такая попытка будет предпринята среди миллиардов пользователей, что может привести к тому, что о невиновных людях сообщат с серьезными последствиями.
Вместо этого для защиты детей используется ряд системных средств, которые, согласно Meta, не нарушают конфиденциальность, включая:
- Новые инструменты
Meta утверждает, что представила более 30 инструментов и ресурсов для обеспечения безопасности детей, а в четверг также представила ряд новых функций безопасности детей.
По умолчанию дети не смогут получать сообщения в Instagram или Facebook Messenger от людей, на которых они не подписаны или с которыми не связаны, говорится в сообщении.
Мета-политика уже запрещает взрослым отправлять сообщения подросткам, которые на них не подписаны.
«Согласно этой новой настройке по умолчанию подростки могут отправлять сообщения или добавляться в групповые чаты только от людей, на которых они уже подписаны или с которыми они связаны», — написала Мета в блоге.
Инструменты родительского контроля теперь также дадут родителям возможность отклонять просьбы подростков об изменении настроек безопасности по умолчанию, например, о том, кто может отправлять им прямые сообщения или могут ли они просматривать более конфиденциальный контент. Раньше их просто уведомляли об изменении.