Apple анонсировала новые алгоритмы для проверки фото пользователей и защиты детей

Вслед за вчерашней утечкой Apple действительно анонсировала новые системы защиты детей от насилия и нежелательного контента.

В частности, в iOS и iPadOS 15 мобильные устройства компании получат функцию автоматической проверки фотографий на наличие признаков жестокого обращения с детьми. Смартфоны и планшеты загрузят базу данных с маркерами такого контента (к которой у самого пользователя не будет доступа) и будут сверять все фотографии на наличие этих маркеров.

Если сходство обнаружится, при загрузке в iCloud фото получит соответствующую метку (которые смогут увидеть сотрудники Apple, но не сами пользователи). После того, как в iCloud будет загружено определённое количество помеченных фото, их отсмотрит сотрудник. При подтверждении случаев насилия над детьми на этих снимках Apple сможет передать данные в некоммерческую организацию “Национальный центр пропавших и эксплуатируемых детей”, которая работает при поддержке полиции США.

Сначала эта функция появится только в Соединённых Штатах — вероятно, осенью вместе с релизом стабильных iOS и iPadOS 15. В дальнейшем планируется расширение и на другие регионы. Она будет включена автоматически, отключить её можно будет, только отказавшись от синхронизации фотографий с iCloud.

Также приложение “Сообщения” на iPhone, iPad и Mac получит новую функцию “Безопасность общения”. Она позволит предупреждать детей и их родителей при получении или отправке изображений откровенно сексуального характера. Для этого будет использоваться машинное обучение на устройстве. Подозрительные фотографии будет автоматически размываться, а ребенок получит предупреждение, что контент может быть не предназначен для его глаз.

В случае, если речь идёт о детях младше 13 лет, у родителей также будет возможность получать уведомление, если их ребенок просмотрит такое фото или перешлёт фотографию другому контакту даже после предупреждения. При этом ребёнка предупредят, что родители об этом узнают, прежде чем он решится открыть фото.

Apple заявила, что “Безопасность общения” появится в iOS 15, iPadOS 15 и macOS Monterey позже в этом году для семейных учётных записей с настроенным родительским контролем. Apple гарантирует, что разговоры iMessage останутся защищенными с помощью сквозного шифрования, и сообщения нельзя будет прочитать извне: для новой функции фотографии будут обрабатываться на самом устройстве без загрузки в облако.