Поскольку мультимодальный генеративный искусственный интеллект стал одной из самых горячих тем последних нескольких лет, вполне естественно, что Microsoft захотела интегрировать его в как можно больше уголков и закоулков Windows. Однако вскоре после анонса функции отзыва для систем Copilot+ 20 мая простой скрипт Python, опубликованный на GitHub, показал, что Microsoft допустила одну довольно серьезную ошибку: данные, которые она хранит, вообще небезопасны.
Некоторые сведения об отзыве Microsoft
Microsoft Recall — это функция в новые ПК Copilot+ компании, поставляемая с усовершенствованной версией ARM Windows 11. Чипы компьютеров предназначены для выполнения как
Contents
Некоторые сведения об отзыве Microsoft
профилем энергопотребления. Это возможно, что позволяет им интегрировать ИИ в рабочий процесс пользователя, не требуя удаленных серверов для обработки запросов.
Предполагается, что Recall расширяет возможности Windows, периодически делая снимки экрана вашей системы во время ее использования, а затем обрабатывая всю информацию с помощью модели искусственного интеллекта компьютерного зрения, которая интерпретирует элементы, присутствующие на вашем экране. Позже это можно использовать, чтобы помочь вам проанализировать весь сеанс и оглянуться назад на то, что вы делали ранее на сеансе.
При условии, что ваш экран постоянно меняется в любой момент, Recall будет делать снимки экрана каждые пять секунд и сохранять их. В противном случае он ожидает изменений.
Что случилось?
7 июня пользователь по имени Александр Хагена (xaitax) на GitHub опубликовал скрипт Python под названием TotalRecall, который мог запускаться локально и просматривать все данные, которые должны были храниться в безопасности..
Мы взглянули на сам сценарий , и всего лишь с помощью 164 строк кода нужно было найти файл SQLite .db, расположенный в следующем месте на целевая система:
C:\Users\[username]\AppData\Local\CoreAIPlatform.00\UKP\
После обнаружения файла сценарий просто открывает и читает его. Вот и все. Никакой хакерской магии. Большая часть кода тратится на определение и проверку путей хранения сценария для правильного извлечения файлов. Здесь нет никакого эксплойта, поскольку все файлы, хранящиеся в Recall, находятся в открытом доступе и незашифрованы.
Оказывается, несмотря на то, ч
Что случилось?
т целый раздел «Встроенная безопасность» в своем обзор конфиденциальности Recall , все, что нужно, чтобы взломать базу данных Recall, — это перейти к папке и ввести несколько SQL-команды. Все изображения также хранятся в подпапке ImageStore в открытом виде.Повод для беспокойства?
Перспектива того, что незашифрованные скриншоты ваших действий, включая пароли, которые вы, возможно, вводили в виде открытого текста, будут храниться без какой-либо защиты в вашей файловой системе, звучит пугающе, но это не так катастрофично, как может показаться.
Опасения по поводу конфиденциальности по-прежнему актуальны. Предоставление пользователям такого простого доступа к файлам Recall без каких-либо препятствий позволяет квалифицированные социальные инженеры убедить менее технически подкованных людей сжать папку CoreAIPlatform.00 в ZIP-файл без подумай и передай все эти данные.
Некоторые приложения могут без каких-либо последствий злонамеренно извлекать информацию из событий UserActivity с помощью системного API отзыва. Возможно, даже удастся выполнить сбор данных такого типа без повышенных привилегий, то есть пользователи даже не будут уведомлены, когда это произойдет.
Однако здесь есть один положительный момент: получить удаленный доступ ко всем этим данным без ведома или согласия пользователя по-прежнему крайне сложно. Несмотря на все неисправности этой системы, данные Recall по-прежнему хранятся локально на компьютерах Copilot+, которые поставляются с одними из самых безопасных настроек по умолчанию среди всех систем под управлением Windows.
Все совместимые устройства по умолчанию используют шифрование устройств Windows или BitLocker и оснащены улучшенной безопасностью входа в систему с помощью PIN-кодов устройства и биометрических данных. Честно говоря, последнее по-прежнему довольно легко обойти с помощью некоторых простые методы сброса пароля , которые работали более десяти лет.
Э
Повод для беспокойства?
osoft от ответственности, но, по крайней мере, объясняет, почему компания была уверена, что было бы не самое худшее в мире предоставить незашифрованную базу данных SQLite и хранить все изображения, сделанные Recall. в локальных папках без дополнительного шифрования.Как это исправить
Если вы используете систему Copilot+ и обеспокоены влиянием Recall на безопасность вашей системы, вы можете отключить Recall, перейдя в меню Настройки и выбрав Конфиденциальность и безопасность ->Вызов и снимки и отключив параметр Сохранить снимки. Если вы не видите эту опцию, то, скорее всего, в вашей системе нет функции Recall.
Что касается того, что должна делать Microsoft, то должно быть пространство, изолированное от доступа локально запускаемых приложений и сценариев. Если простой скрипт Python может собирать данные и сортировать их по создаваемым им папкам, то этот же сценарий также может загрузить все эти данные куда-нибудь на ферму серверов. Это должно быть, по крайней мере, заблокировано с помощью запроса контроля доступа пользователей, если не полностью зашифровано в двоичном объекте, как и почти любой другой критический компонент системы.
Изображение предоставлено: SDXL, все скриншоты Мигеля Лейва-Гомеса
