Технологические фирмы просят лучше работать с изображениями жестокого обращения с детьми


Правительство предоставляет Ofcom дополнительные инструменты, чтобы технологические компании могли предотвращать, выявлять и удалять контент, связанный с сексуальными надругательствами над детьми и их эксплуатацией.

Полномочия будут введены посредством поправки к Закону о безопасности в Интернете, который также контролирует Интернет.

Child at a computer

Если техническая служба не выполнит требования, Ofcom сможет наложить штраф в размере до 18 миллионов фунтов стерлингов или 10% от глобального годового оборота компании, в зависимости от того, что больше.

Однако растет беспокойство по поводу того, как это будет работать на практике.

Есть вопросы по поводу того, какие именно дополнительные инструменты получит медиарегулятор Ofcom.

И одна из главных проблем связана с популярным сквозным шифрованием (E2EE) или сверхзащищенным обменом сообщениями, такими как WhatsApp и Signal, и с тем, как они могут проникнуть.

Правительство заявляет, что поддерживает разработку инструментов, которые могли бы обнаруживать изображения сексуального насилия над детьми в среде E2EE или вокруг нее, соблюдая при этом конфиденциальность пользователей. В нем говорится, что это послужит дополнительным источником информации для более широких дебатов о конфиденциальности и безопасности пользователей.

Но профессор Алан Вудворд из Университета Суррея сказал Би-би-си, что для обнаружения изображений жестокого обращения с детьми или связанного с ними текста текущие методы будут работать только с незашифрованными данными.

«Если OSB настаивает на обнаружении такого материала в зашифрованных данных, это может быть достигнуто только путем проверки отправляющих и принимающих устройств, то есть там, где они расшифровываются для потребления.

«Подразумевается некая форма универсального «сканирования на стороне клиента», которое многие сочтут чрезмерно навязчивым и способным… использовать для обнаружения других вещей, не связанных с безопасностью детей».

Сканирование на стороне клиента относится к технологии, которая сканирует содержимое сообщения на соответствие базе данных содержимого (например, изображениям сексуального насилия над детьми) до того, как сообщение будет отправлено предполагаемому получателю.

Если Ofcom получит полномочия внедрять технологии сканирования, эксперты призывают правительство конкретизировать детали технической осуществимости, последствий для безопасности и влияния на конфиденциальность.

Эксперты говорят, что невозможно заставить технологии сканирования работать только для «хороших» целей.

«Большая проблема будет заключаться в том, что любая технология, которая может быть использована для просмотра того, что в противном случае зашифровано, может быть использована злоумышленниками для ведения наблюдения», — сказал профессор Вудворд.

Одна из фундаментальных предпосылок E2EE заключается в том, что только отправитель и предполагаемые получатели сообщения могут знать или делать выводы о содержании этого сообщения. Это одна из причин, по которой людям нравится использовать WhatsApp и Signal.

Сьюзи Харгривз, исполнительный директор благотворительной организации Internet Watch Foundation (IWF), хочет, чтобы в OSB были предусмотрены положения, позволяющие Ofcom вместе с IWF регулировать материалы о сексуальном насилии над детьми в Интернете.

Она сказала: «Наш беспрецедентный опыт в этой области сделает ответ сильным и эффективным с первого дня.

«У нас прочные отношения сотрудничества с промышленностью, правоохранительными органами, а также передовой мировой опыт, который может гарантировать, что ни один ребенок не будет забыт или его страдания не останутся незамеченными».

Соразмерность

Правительство говорит, что крупной технологической компании будет недостаточно сказать, что она просто не может развернуть определенные технологии на своей платформе из-за того, как она настроена.

Если это соразмерно и необходимо, Ofcom теперь может направить компании уведомление с просьбой предпринять шаги, чтобы продемонстрировать, что они делают все возможное для разработки или поиска инструментов, которые удалят изображения сексуального насилия над детьми.

Но все это зависит от оценки регулирующим органом риска эксплуатации детей.

Профессор Вудворд сказал: «Ofcom предстоит взобраться на крутую гору. Им нужно будет привлечь много редких талантов… чтобы разработать технические решения, требуемые OSB.

«И это не говоря уже о навыках, которые им понадобятся, чтобы ориентироваться во вторичном законодательстве… Перед ними стоит поистине огромная задача».

Ofcom сообщил Би-би-си, что готовится взять на себя новую роль, привлекая навыки и опыт со всего технологического сектора, а также экспертов из органов защиты детей и защиты интересов.

Его представитель сказал: «Борьба с сексуальным насилием над детьми в Интернете занимает центральное место в новых законах о безопасности в Интернете — и это правильно. Это большая и сложная работа, но мы будем готовы применить эти новаторские законы на практике после принятия OSB. .”

Laptop keyboard

По оценкам Национального агентства по борьбе с преступностью, в Великобритании насчитывается от 550 000 до 850 000 человек, которые представляют сексуальный риск для детей.

Доступ к такому контенту в Интернете может привести к тому, что правонарушители нормализуют собственное потребление этого контента, поделятся друг с другом методами, как избежать обнаружения, и перейдут к совершению реальных преступлений, связанных с сексуальным насилием над детьми.

Министр цифровых технологий Надин Доррис (Nadine Dorries) заявила: «Технологические службы обязаны не предоставлять безопасные места для размещения в Интернете ужасающих изображений жестокого обращения с детьми. Они также не должны закрывать глаза на эти ужасные преступления, происходящие на их сайтах».

Мейв Ханна, партнер юридической фирмы Allen & Overy, сказала Би-би-си: «Хотя цели поправки похвальны, неясно, что технологическая компания должна будет делать на практике, чтобы выполнить уведомления, выпущенные Ofcom, или избежать крупных штрафов. угрожал.

«Это отсутствие ясности также создаст реальные проблемы для любых правоприменительных действий Ofcom. Например, как Ofcom покажет, что технологические компании могли — но не смогли — разработать какую-либо конкретную новую технологию там, где этой технологии еще не существует?»

Следите за новостями Шайоны МакКаллум в Твиттере @shionamc


Добавить комментарий