Эксперты по кибербезопасности продемонстрировали критическую уязвимость в конфиденциальности помощника Google Gemini AI, позволяющую несанкционированный доступ к данным календаря пользователей с минимальными усилиями. Уязвимость, подробно описанная в отчете Miggo Security, подчеркивает риски все более сложных ИИ-систем при воздействии базовых методов социальной инженерии.
Как Работает Эксплойт
Атака использует технику, называемую Непрямым Внедрением Запросов (Indirect Prompt Injection). Исследователи отправили целевому пользователю приглашение в Google Календарь, содержащее вредоносный запрос. Этот запрос инструктировал Gemini резюмировать запланированные встречи пользователя на определенный день, а затем встроить эти конфиденциальные данные в описание нового, скрытого приглашения в календарь.
Ключом к успеху является готовность Gemini быть полезным: когда целевой пользователь спрашивал ИИ о своем расписании, Gemini выполнял запрос, ложно помечая новое приглашение как «свободное время», одновременно заполняя его деталями конфиденциальных встреч. Это позволило злоумышленнику просмотреть украденную информацию.
Последствия: ИИ-Помощники Как Векторы Утечки Данных
Отчет Miggo Security под названием «Использование Приглашений в Календарь: Семантическая Атака на Google Gemini» подчеркивает растущую тенденцию. ИИ-помощники, разработанные для удобства, все чаще становятся векторами утечки данных. Исследователи объясняют, что склонность Gemini к «автоматическому поглощению и интерпретации данных о событиях» создает эксплуатируемую слабость.
Это не единичный случай; уязвимость, вероятно, присутствует и в других ИИ-помощниках. Злоумышленники уже адаптируются, что делает этот тип внедрения запросов растущей угрозой.
Ответ Google и Устранение
Google признал уязвимость после того, как исследователи сообщили об этом. Представитель заявил, что «надежные механизмы защиты» уже были внедрены и что проблема была устранена. Google также подчеркнул ценность вклада сообщества в повышение безопасности ИИ.
Однако этот инцидент поднимает более широкие вопросы о конфиденциальности ИИ. Тот факт, что такой простой эксплойт мог преуспеть, подчеркивает необходимость для разработчиков уделять приоритетное внимание защите данных пользователей.
«ИИ-компании должны учитывать намерения запрашиваемых действий», — призывает Miggo Security, предлагая, чтобы ИИ-системы должны помечать подозрительные запросы, а не слепо выполнять их.
Этот инцидент служит четким предупреждением: быстрое развитие ИИ не гарантирует встроенную безопасность, и бдительность необходима для предотвращения будущих утечек.
