Согласно новым кодексам безопасности Ofcom, компании, занимающиеся социальными сетями, должны внедрить эффективные проверки возраста и «укрощенные токсичные алгоритмы», рекомендующие детям вредный контент.
Кодексы безопасности детей, опубликованные Ofcom 8 апреля 2024 года, содержат более 40 мер, призванных помочь компаниям, работающим в социальных сетях, соблюдать новые юридические обязательства, возложенные на них Законом о безопасности в Интернете (OSA), по защите детей младше 18 лет, использующих их услуги.
Принятые в октябре 2023 года обязательства, возложенные на цифровые платформы OSA, означают, что они должны препятствовать доступу детей к вредному или несоответствующему их возрасту контенту (например, порнографии или сообщениям, пропагандирующим членовредительство); обеспечить соблюдение возрастных ограничений и принять меры по проверке возраста; и проводить оценку рисков опасностей, которые их услуги представляют для детей.
Оно также включает в себя обязательство быстро удалять незаконный контент или вообще предотвращать его появление.
В соответствии с кодексом Ofcom ожидает, что любые интернет-сервисы, к которым могут получить доступ дети (включая социальные сети и поисковые системы), будут проводить тщательную проверку возраста; настроить свои алгоритмы для фильтрации наиболее вредного контента из детских лент; и внедрить процессы модерации контента, которые гарантируют быстрое принятие мер в отношении этого контента.
«В соответствии с новыми законами о безопасности в Интернете, наши предлагаемые кодексы твердо возлагают ответственность за обеспечение большей безопасности детей на технологические компании. Им придется укротить агрессивные алгоритмы, которые передают детям вредный контент в их персонализированных лентах, и ввести проверку возраста, чтобы дети получали опыт, соответствующий их возрасту», — заявила исполнительный директор Ofcom Мелани Доус.
«Наши меры, выходящие далеко за рамки нынешних отраслевых стандартов, радикально изменят безопасность детей в Великобритании в Интернете. Как только они вступят в силу, мы без колебаний воспользуемся всем спектром наших правоприменительных полномочий, чтобы привлечь платформы к ответственности. Это обещание, которое мы сегодня даем детям и родителям».
Проекты кодексов также включают меры по обеспечению соблюдения требований технологическими компаниями, в том числе путем назначения назначенного старшего лица, ответственного за соблюдение обязанностей по обеспечению безопасности детей; ежегодный обзор старшими органами всей деятельности по управлению рисками, касающейся безопасности детей; и кодекс поведения сотрудников, устанавливающий стандарты для сотрудников в отношении защиты детей.
Ofcom заявил, что позже в этом году начнет дополнительные консультации о том, как автоматизированные инструменты, в том числе искусственный интеллект (ИИ), могут использоваться для активного обнаружения незаконного контента и контента, наиболее вредного для детей, включая ранее необнаруженные материалы и контент, содержащие сексуальное насилие над детьми (CSAM). пропаганда самоубийств и членовредительства.
В настоящее время проводятся открытые консультации по проектам кодексов, и планируется завершить работу над проектами в течение года, а через три месяца они вступят в силу.
«Правительство поручило Ofcom принять этот закон, и сегодня регулятор ясно дал понять: платформы должны ввести виды проверки возраста молодых людей, с которыми молодые люди сталкиваются в реальном мире, и обратиться к алгоритмам, которые слишком легко означают, что они сталкиваются с вредными материалами в Интернете», — заявили в Digital. секретарь Мишель Донелан. «Как только эти меры будут приняты, они приведут к фундаментальным изменениям в том, как дети в Великобритании воспринимают онлайн-мир».
Тэмсин Аллен, медиа-партнер юридической фирмы Bindmans, заявила, что предложения Ofcom являются «обнадеживающим первым шагом, но доказательством их приверженности будет их готовность ввести санкции в отношении крупных технологических компаний за несоблюдение требований. Закон дает им новые полномочия штрафовать компании на сумму до 10% мирового оборота — огромные суммы, которые, наконец, смогут пробить броню крупных технологических компаний».
Содержание
Текущие проблемы
Однако OSA вызвало обеспокоенность как среди технологических компаний, так и среди организаций гражданского общества по поводу некоторых положений, которые могут подорвать зашифрованные коммуникации, конфиденциальность и свободу выражения мнений.
Активисты кампании по обеспечению конфиденциальности в Open Rights Group (ORG), например, заявили, что внедрение систем обеспечения возраста, включая сопоставление удостоверений личности с фотографией, оценку возраста лица и услуги многократного использования цифровых удостоверений, для ограничения доступа детей может непреднамеренно ограничить свободу выражения мнений. одновременно подвергая их повышенным рискам кибербезопасности.
«Взрослые столкнутся с выбором: либо ограничить свою свободу выражения мнения, не имея доступа к контенту, либо подвергнуть себя повышенным рискам безопасности, которые возникнут в результате утечки данных и фишинговых сайтов», — заявил исполнительный директор Джим Киллок.
«Некоторые зарубежные провайдеры могут заблокировать доступ к своим платформам из Великобритании вместо того, чтобы соблюдать эти строгие меры. Мы также обеспокоены тем, что системы модерации могут отказать молодым людям в образовательных и вспомогательных материалах – особенно там, где они касаются сексуальности, гендерной идентичности, наркотиков и других деликатных тем.
«Эти меры сохранят риски для детей. Регулирующим органам необходимо изменить свой подход к такому, который позволит детям понять риски, с которыми они могут столкнуться, особенно там, где молодые люди могут искать контент, независимо от того, предназначен он для них или нет».
Робин Томбс, генеральный директор биометрической компании Yoti, утверждает, что, хотя «не существует единого универсального решения, когда дело касается безопасности детей», эффективная технология проверки возраста станет важной частью защиты детей от доступа к вредному контенту в Интернете.
«Важно, чтобы людям предлагался выбор, как они докажут свой возраст, чтобы гарантировать, что гарантия возраста будет инклюзивной и доступной для всех. К счастью, Ofcom признал, что оценка возраста лица, услуги многократного использования цифровой идентификации и сопоставление удостоверений личности с фотографией — все это высокоэффективные решения», — сказал он.
Что касается рисков шифрования, службы зашифрованных сообщений и электронной почты, такие как WhatsApp, Signal и Element, ранее угрожали выйти из Великобритании, если Ofcom потребует от них установить «аккредитованную технологию» для мониторинга зашифрованных сообщений на предмет незаконного контента.
Это основано на том, что раздел 122 закона дает Ofcom полномочия требовать от технологических компаний устанавливать системы, которые, по их мнению, могут подорвать безопасность и конфиденциальность зашифрованных сервисов, путем сканирования содержимого каждого сообщения и электронной почты, чтобы проверить, содержат ли они CSAM.
Хотя в проектах кодексов ничто не упоминает зашифрованные услуги, Ofcom заявил, что позднее в 2024 году опубликует конкретные предложения по использованию «технических уведомлений», требующих от служб при определенных обстоятельствах использовать аккредитованные технологии для борьбы с определенными типами незаконного контента.
«Мы ожидаем, что это будет включать рекомендации о том, как мы будем использовать эти полномочия, наши рекомендации правительству по минимальным стандартам точности и наш подход к аккредитации технологий», — говорится в сообщении.
