Новое API для Android, Content Safety Manager, обвинили в потенциальной возможности сканировать приватные файлы пользователей. Код.ру разобрался, действительно ли он представляет угрозу конфиденциальности.

Компания Google разрабатывает новый интерфейс Content Safety Manager для классификации пользовательского контента в операционной системе Android. Некоторые пользователи и СМИ начали утверждать, что новый интерфейс может использоваться для «слежки» и обнаружения чувствительных изображений на устройстве, а затем — для доступа злоумышленников к ним.

Однако новый API предназначен для проверки конкретного контента, который приложение передаёт системному классификатору, и сам по себе не предоставляет ему доступ ко всей памяти устройства, галерее или перепискам в мессенджерах. Основной метод API принимает конкретный объект для классификации и возвращает один из четырёх результатов: контент разрешён, требует предупреждения, заблокирован или не классифицирован. Итог зависит от настроек безопасности пользователя.

Иными словами, Content Safety Manager не может самостоятельно открыть галерею и начать проверять находящиеся там фотографии. Сначала приложение должно передать конкретный контент на классификацию, после чего система возвращает ему результат проверки. Сам API не является механизмом выдачи доступа к файлам пользователя.

В архитектуре Android также предусмотрена отдельная системная роль поставщика функций безопасности контента — ROLE_CONTENT_SAFETY. В частности, приложение, которому назначена эта роль, должно предоставлять интерфейс для отображения информации об ограниченном контенте.

При этом важно не путать новый Content Safety Manager с уже существующим Android System SafetyCore. SafetyCore используется, в частности, для функции Sensitive Content Warnings в Google Messages, которая локально классифицирует изображения для предупреждения о потенциальной наготе. Новый Content Safety Manager представляет собой системный API для обращения к функциям классификации контента; в текущей документации он обозначен как API level 10000 и находится на стадии разработки.