Предупреждение: более 1,8 миллиарда пользователей Gmail столкнулись с новой, крайне сложной формой кибератаки.
Более 1,8 миллиарда пользователей Gmail по всему миру подверглись новой беспрецедентно сложной кибератаке, в связи с чем эксперты по кибербезопасности выступили с срочным предупреждением.
Совершенно новая форма кибератаки угрожает более чем 1,8 миллиардам пользователей Gmail по всему миру. В отличие от традиционных фишинговых мошенничеств, эта угроза использует искусственный интеллект (ИИ), чтобы обманным путём заставить пользователей предоставить конфиденциальную информацию, такую как пароли или личные данные.
Эксперты по безопасности предупреждают, что это опасная новая тенденция, но большинство пользователей об этом даже не подозревают.
Целью этой атаки является Gemini, ИИ-помощник, встроенный в Gmail и многие другие сервисы Google. Хакеры искусно внедрили скрытые команды в содержимое писем.
Когда пользователь использует функцию «Краткое содержание этого письма», Gemini не будет читать отображаемый текст, как ожидается, а вместо этого обработает скрытые команды, которые уже вставлены. В результате ИИ может создавать весьма убедительные ложные оповещения, заставляя пользователей поверить, что их аккаунты были взломаны.
В некоторых спам-писемах может содержаться информация о взломе аккаунта Gmail и поддельный номер телефона «технической поддержки». Жертв обманным путём заставляют позвонить по этому номеру, который принадлежит мошеннику, а не Google.
Используемый прием чрезвычайно сложен: вредоносные команды скрыты в виде белого текста на белом фоне с размером шрифта 0, что делает их невозможными для обнаружения человеческим глазом.
Однако инструменты искусственного интеллекта, такие как Gemini, могут легко считывать эти «невидимые» строки и обманным путём заставлять их реагировать в соответствии с инструкциями злоумышленника. Это новый тип атак, называемый «быстрой инъекцией», который использует уязвимости в способах обработки текста искусственным интеллектом.
Команда безопасности 0Din в Mozilla была одной из первых, кто обнаружил этот трюк, показав, как можно манипулировать Gemini, чтобы он показывал поддельные предупреждения, имитирующие настоящие, обманным путем заставляя пользователей нажимать на фишинговые ссылки или звонить на номера телефонов хакеров.
В контексте все более широкого присутствия ИИ на цифровых платформах это предупреждающее напоминание о том, что ИИ сам по себе может стать «жертвой» мошенничества и заманить пользователей в ловушку, если они не будут бдительны.
Как защититься от атак ИИ?
Перед лицом волны кибератак с использованием искусственного интеллекта, таких как Gemini, эксперты по кибербезопасности дали несколько важных рекомендаций, которые помогут пользователям защитить себя:
Не доверяйте предупреждениям безопасности, которые появляются в сводке Gemini. В настоящее время Google не использует Gemini для отправки официальных оповещений, касающихся безопасности аккаунтов. Если вы видите срочное уведомление от искусственного интеллекта, сначала отнеситесь к этому с подозрением.
– Будьте осторожны с электронными письмами с угрозами или требованиями немедленного реагирования. Особенно старайтесь не переходить по странным ссылкам и не звонить по номерам телефонов, указанным в таких письмах, так как они, скорее всего, мошенники.
- Настройте приложения электронной почты для обнаружения и оповещения о скрытом контенте, таком как белый текст на белом фоне или размер шрифта 0, — метод, который обычно используется для сокрытия вредоносных команд в атаках ИИ.
- Настройте фильтры для выявления необычного поведения, включая электронные письма, содержащие несколько срочных оповещений, неизвестные URL-адреса веб-сайтов или странные номера телефонов.
- Всегда проверяйте все уведомления о безопасности через официальные каналы Google, такие как страница безопасности вашего аккаунта Google или приложение Google Security, а не доверяйте информации, созданной ИИ.
Эксперты также предупреждают, что уязвимость не ограничивается Gmail. Поскольку Gemini интегрирован в Google Docs, Calendar и сторонние приложения, угроза может продолжать распространяться, если Google не устранит уязвимость.
Последний совет: всегда будьте бдительны. Если вы столкнётесь с подозрительным сообщением от ИИ, не раздумывайте и немедленно удалите его. В эпоху, когда ИИ может быть взломан, пользователям следует быть более бдительными, чтобы не стать жертвой.