Администрация мессенджера Signal заявила, что вводит ограничения на возможность создания скриншотов, чтобы предотвратить чтение личных чатов на телефонах агентами искусственного интеллекта. Ранее на этой неделе СМИ выяснили, что ИИ-агент Muse от Meta читал личную переписку пользователей мессенджера, который считается лидером в области безопасного обмена сообщениями, без ведома писавших.
На устройствах с iOS защита экрана будет включена по умолчанию, а на Android будет автоматически включаться, если мессенджер обнаружит попытку ИИ-агента прочитать переписку. Ограничения можно будет отключить в настройках.

В компании в то же время подчеркнули, что даже эти меры не гарантируют полной защиты от сканирования ИИ-агентами:
«Google (Android), Apple (iOS/macOS) и Microsoft (Windows) выпускают три основные потребительские операционные системы (ОС), которые составляют среду, где сторонние разработчики — такие как Signal — создают свои приложения. Иными словами, эти три операционные системы — это океаны, в которых Signal и другие приложения должны плавать; они диктуют условия жизни для экосистемы приложений. Прямо сейчас эти интеграции ИИ меняют существующую среду таким образом, что она становится всё более враждебной по отношению к конфиденциальности. Это экзистенциальная угроза для Signal».
Разработчиков операционных систем призвали поделиться техническими инструментами и документацией, которые позволят разработчикам приложений по типу Signal предотвратить доступ ИИ-агентов к конфиденциальным данным.
Как ранее выяснило агентство Reuters, ИИ-агент Muse от Meta без ведома пользователей мог читать их зашифрованную переписку. Это стало известно из внутренней переписки команды разработчиков Muse. Сотрудники Meta жаловались, что агент писал им о запросах, которых они не делали, и о балансах счетов, которые им не принадлежали. Одной из сотрудниц Muse агент, например, напомнил ответить сестре в Signal, хотя доступа к другим приложениям она ему не давала.


