Хакеры используют ChatGPT для создания сложных вредоносных программ.
Недавно американская компания OpenAI, ведущая исследовательская компания в области искусственного интеллекта, подтвердила, что хакеры используют её модель ChatGPT AI для создания вредоносного ПО и осуществления кибератак.
Недавний отчет выявил тревожную реальность использования ChatGPT для кибератак. С начала 2024 года зафиксировано более 20 инцидентов, в которых хакеры использовали ChatGPT для проведения фишинговых атак, кражи данных и нарушения работы систем, причинив значительный ущерб многочисленным организациям и частным лицам.
В отчете OpenAI раскрыта тревожная реальность: связанные с государством хакерские группы, в частности из Китая и Ирана, используют возможности ChatGPT для повышения эффективности своих кибер-операций. От усовершенствования сложных вредоносных программ до создания злонамеренных пропагандистских кампаний в социальных сетях, ChatGPT стал мощным инструментом для крупномасштабных кибератак.
Тревожное событие: китайская хакерская группа SweetSpecter была обнаружена использующей ChatGPT для осуществления вредоносных действий. Эта группа использовала ChatGPT для сбора конфиденциальной информации, поиска уязвимостей в системах и разработки новых типов вредоносного ПО. Они даже дерзко атаковали саму компанию OpenAI с помощью фишинговых атак, стремясь получить доступ к данным сотрудников и украсть их.
Ещё одна серьёзная угроза исходит от иранской хакерской группы «CyberAv3ngers», тесно связанной с Корпусом стражей исламской революции. Эта группа использует ChatGPT для поиска уязвимостей в системах управления заводов и объектов критической инфраструктуры. Их цель — создание вредоносного кода для атаки и выведения из строя этих систем, что приведёт к серьёзным последствиям.
Кроме того, была обнаружена еще одна хакерская группа из Ирана, известная как «STORM-0817», которая использует искусственный интеллект для создания вредоносного ПО для телефонов Android. Это вредоносное ПО способно красть личную информацию пользователей, такую как номера телефонов, историю звонков и местоположение.
Хотя хакерские группы экспериментировали с использованием ChatGPT для создания вредоносного ПО, OpenAI утверждает, что это не привело к каким-либо прорывам в области кибератак. ChatGPT — это всего лишь вспомогательный инструмент, а для создания эффективных кибератак по-прежнему необходимы человеческие знания и опыт.
Компания утверждает, что наблюдаемые ими результаты использования GPT-4 хакерами оставались в пределах ранее прогнозируемых возможностей. Другими словами, GPT-4 пока не способен создавать более сложные и эффективные кибератаки, чем другие инструменты.
В отчете указывается, что развитие генеративного ИИ облегчает задачу хакерам. Любой человек, даже с небольшими техническими знаниями, может использовать ИИ для создания инструментов кибератак, тем самым увеличивая риск стать жертвой нападения.
Для противодействия этим угрозам OpenAI внедрила меры по предотвращению вредоносной деятельности, включая блокировку учетных записей, связанных с выявленными действиями. Компания также сотрудничает с отраслевыми партнерами и заинтересованными сторонами для обмена информацией об угрозах и улучшения коллективной защиты от киберугроз.
Эксперты по безопасности обеспокоены тем, что ситуация будет ухудшаться по мере того, как технологии искусственного интеллекта становятся все более интеллектуальными. Они утверждают, что компаниям, разрабатывающим ИИ, необходимы надежные средства защиты и эффективные системы обнаружения, чтобы предотвратить использование этой технологии злоумышленниками в противоправных целях.
Раскрытие информации компанией OpenAI служит тревожным сигналом для технологической индустрии и политиков, призывая их обратить внимание на потенциальные риски, связанные с передовыми системами искусственного интеллекта.
Сегодня искусственный интеллект все больше проникает в нашу жизнь. Чтобы в полной мере использовать преимущества ИИ, обеспечивая при этом безопасность, нам необходимо найти баланс между разработкой новых технологий и защитой личной информации. Это поможет предотвратить использование злоумышленниками ИИ для совершения вредоносных действий.
Компания OpenAI взяла на себя обязательство сделать все возможное, чтобы предотвратить использование ее инструментов ИИ злоумышленниками в вредоносных целях. Компания продолжит выявлять и пресекать подобные действия, а также делиться своим опытом с другими исследователями для совместного создания более надежной системы безопасности. OpenAI также усилит защиту от атак профессиональных хакеров, особенно тех, кто связан с государственными структурами.
В будущем искусственный интеллект будет играть решающую роль в нашей жизни. Однако, чтобы избежать потенциальных рисков, разработчикам ИИ, экспертам по кибербезопасности и правительствам необходимо тесно сотрудничать. Им нужно работать вместе, чтобы найти способы безопасной и надежной разработки ИИ, предотвращая при этом использование ИИ злоумышленниками в целях причинения вреда.