Как Apple будет проверять свои устройства на наличие детской порнографии?
Apple начнет проверять содержимое облачного сервиса iCloud на наличие детской порнографии, а переписки несовершеннолетних — на присутствие в них фото сексуального характера. Об этом говорится в сообщении компании.
При обнаружении материалов о сексуальном насилии над детьми компания будет сообщать об этом в Национальный центр по делам пропавших и эксплуатируемых детей (NCMEC). Эта организация работает в сотрудничестве с правоохранительными органами по всей территории США.
Как Apple будет искать детскую порнографию?
Во-первых, новая технология позволит компании обнаруживать изображения с детской порнографией, хранящиеся в iCloud Photos. Система не будет сканировать сами изображения пользователей в облаке. Она будет сопоставлять фото с цифровыми отпечатками известных иллюстраций сексуального насилия над детьми, которые хранятся в базе данных NCMEC и других организаций по обеспечению безопасности детей. Процесс сопоставления будет осуществлять криптографическая технология, называемая пересечением частных множеств, которая будет определяет, есть ли совпадение, не раскрывая результат.
Во-вторых, приложение Messages начнет предупреждать детей и их родителей при получении или отправке откровенных сексуальных фотографий. Для анализа вложенных изображений и определения того, являются ли они порнографией, будет использоваться встроенное машинное обучение.
Будет ли Apple читать сообщения и смотреть фотографии пользователей?
Нет, новые функции разработаны таким образом, чтобы Apple не получала доступа к личной переписке пользователей. Что касается фотографий пользователей, то они станут доступны компании только в том случае, если система определит их в качестве иллюстрации сексуального насилия над детьми. 
Что будет, если Apple найдет порнографию?
Если криптографическая технология найдет в фото, хранящихся в iCloud, признаки детской порнографии, Apple получит доступ к этим изображениям. Представители компании вручную будут проверять каждый отчет, чтобы подтвердить, действительно ли фото содержит запрещенный контент. Если наличие детской порнографии подтвердится, компания заблокирует учетную запись пользователя и сообщит о находке в NCMEC.
Если пользователь считает, что его учетную запись отключили по ошибке и у него нет детской порнографии, он может подать в компанию апелляцию для восстановления своей учетной записи.
Если же на устройство ребенка пришлют фотографию с откровенным сексуальным контентом, она станет размытой. Самому автору сообщения поступит предупреждение о том, что он отправил несовершеннолетнему запрещенный контент.
В случае если отправить интимную фотографию захочет сам ребенок, система предупредит его о том, что ему не стоит этого делать. В случае отправки изображения отчет об этом придет родителям ребенка.
На каких устройствах начнет работать новая функция?
Функция поиска детской порнографии будет внедрена во все устройства компании, поддерживающие версии программного обеспечения iOS 15, iPadOS 15 и macOS Monterey.
Чтобы родители могли получать сообщения об отправлении или получении детьми откровенных фото, в учетной записи устройства должен быть настроен семейный доступ.
Когда заработает функция?
Apple планирует запустить технологию проверки устройств на наличие детской порнографии в 2021 году. Точная дата не сообщается.
