Google запускает функцию обнаружения мошенничества на базе искусственного интеллекта для пользователей Android

Поскольку устройства Android постоянно подвергаются атакам мошенников посредством звонков и сообщений, Google внедрила передовые технологии искусственного интеллекта для защиты пользователей.

Эта функция предназначена для автоматического обнаружения и предупреждения о звонках и сообщениях, имеющих признаки мошенничества, помогая пользователям избегать таких рисков, как потеря денег, кража личной информации или атака вредоносного ПО.

Почему Google запускает новую функцию обнаружения мошенничества для пользователей Android?

Чтобы защитить пользователей от все более изощренных и разрушительных фишинговых атак, которые в последнее время становятся все более сложными и вредоносными, Google запустила новую функцию для обнаружения и предотвращения все более популярной формы мошенничества: мошенничества с голосовыми вызовами.

В официальном заявлении от 4 марта представитель Google подтвердил, что новые функции обнаружения мошенничества на базе искусственного интеллекта теперь доступны пользователям смартфонов на базе Android.

Традиционно защита от спама и фишинга была сосредоточена на блокировке еще до начала разговора, но это делает их менее эффективными против сложных мошеннических схем социальной инженерии.

Чтобы исправить это, в Google заявили: «Мы инвестировали в новые интеллектуальные модели искусственного интеллекта, которые могут обнаруживать подозрительное поведение и отправлять оповещения в режиме реального времени во время разговоров, при этом защищая конфиденциальность пользователей».

Как работает новая функция обнаружения мошенничества от Google?

Google использует искусственный интеллект для улучшения обнаружения мошенничества в Google Сообщениях, помогая защищать пользователей даже после получения ими первого сообщения.

По данным Google, искусственный интеллект будет работать в режиме реального времени, выявляя аномалии в работе служб коротких сообщений (SMS), служб мультимедийных сообщений (MMS) или служб расширенной коммуникации (RCS).

При обнаружении подозрительных признаков система предупредит пользователей о возможном мошенничестве и предоставит возможность игнорировать, сообщить о отправителе или заблокировать его.

Что касается функции защиты вызовов, то она представляет собой шаг вперёд по сравнению с первоначальным внедрением на телефонах Pixel в США в конце прошлого года. Она использует встроенную в устройство модель искусственного интеллекта для анализа разговоров в режиме реального времени.

«Если звонящий просит вас оплатить доставку подарочной картой, ИИ немедленно предупредит вас с помощью звукового уведомления, вибрации и предупреждения на экране о том, что звонок может быть мошенническим», — поясняет Google.

Что касается сроков внедрения, защита сообщений на базе искусственного интеллекта сначала будет запущена в США, Великобритании и Канаде, а затем распространится на другие страны. Защита звонков, использующая технологию Gemini Nano, будет доступна всем англоговорящим пользователям Pixel 9 в США.

Майк Бриттон, директор по информационным технологиям компании Abnormal Security (США), подчеркнул, что поскольку нетехнические атаки становятся все более изощренными, особенно с ростом числа мошенничеств с использованием искусственного интеллекта, безопасность на базе искусственного интеллекта уже не вариант, а необходимость.

Однако он также предупредил, что киберпреступники используют ИИ для обхода традиционных систем обнаружения, создавая крайне персонализированные атаки.

Таким образом, защита на базе ИИ должна выходить за рамки простого распознавания ключевых слов и анализировать даже самые незначительные поведенческие аномалии для обнаружения злонамеренных намерений.

Бриттон приходит к выводу, что этот подход доказал свою эффективность в сфере B2B (бизнес для бизнеса), где ИИ помогает выявлять сложные случаи взлома электронной почты и финансового мошенничества.

Он заявил, что применение подобной технологии для защиты потребителей является обнадеживающим шагом вперед, помогающим предотвращать мошенничество до того, как оно приведет к серьезным последствиям.

Гарантирует ли эта новая функция обнаружения мошенничества конфиденциальность пользователей?

Многие задаются вопросом: насколько безопасны эти новые функции обнаружения мошенничества, особенно учитывая, что они используют анализ с помощью искусственного интеллекта, а некоторые функции включены по умолчанию? Действительно ли гарантируется конфиденциальность? И, что ещё важнее, нужно ли отключать эти функции?

Основная проблема с разработкой Google этой функции обнаружения фишинга заключается в том, что она работает исключительно на устройстве. В случае с функцией обнаружения фишинга в Google Сообщениях она применяется только к сообщениям от людей, которых нет в вашем списке контактов.

Google утверждает, что обработка сообщений полностью происходит на устройстве, что обеспечивает максимальную защиту конфиденциальности пользователя. Если вы пожалуетесь на переписку, чтобы помочь бороться со спамом, Google и вашему оператору связи будут переданы только данные об отправителе и несколько последних сообщений, а не весь текст сообщений.

Аналогичным образом, защита вызовов также учитывает конфиденциальность. Google поясняет, что аудиозапись вызовов обрабатывается только временно, и никакие данные не сохраняются, не записываются и не отправляются в Google или третьим лицам. Единственное отличие заключается в том, что эта функция по умолчанию отключена.

По этому поводу г-н Юджин Лидерман, директор по продуктам безопасности и конфиденциальности компании Google и председатель Группы по безопасности и борьбе с мошенничеством Всемирной мобильной ассоциации (GSMA), заявил: «Мы рады предоставить пользователям новые средства защиты на базе искусственного интеллекта, доступные только на Android».

«Эти функции разработаны с учётом конфиденциальности, чтобы помочь защитить пользователей от растущей волны изощрённых мошеннических схем. Система обнаружения мошенничества использует возможности искусственного интеллекта на устройстве для оповещения в режиме реального времени, сохраняя при этом полную конфиденциальность разговоров. Самое главное, что пользователи всегда контролируют ситуацию: они могут в любой момент отключить эту функцию в настройках», — добавил Юджин Лидерман.

Как видите, Google провела четкую границу между безопасностью на базе искусственного интеллекта и конфиденциальностью персональных данных, оберегая вас от мошенничества и избавляя от беспокойства о сборе ваших персональных данных.