5 потенциальных опасностей, связанных с предоставлением личной информации инструментам чат-ботов на основе искусственного интеллекта.

Никто не сомневается, что ИИ совершает революцию в мире. Взрывной рост числа больших языковых моделей (LLM), особенно после запуска ChatGPT от OpenAI в конце 2022 года, сделал ИИ привычным инструментом для сотен миллионов пользователей.

Благодаря своей способности помогать, предлагать решения и даже сопровождать в различных ситуациях, чат-боты с искусственным интеллектом быстро находят применение не только для поиска информации или работы, но и в качестве «компаньона».

Всё больше людей делятся с искусственным интеллектом личными аспектами своей жизни, включая конфиденциальные данные. Однако, как и в случае с социальными сетями, раскрытие слишком большого количества информации может привести к непредвиденным последствиям. Вот пять причин, почему вам следует быть осторожными.

1. Утечки данных представляют угрозу безопасности.

Утечки данных представляют собой не только технологический риск, но и прямую угрозу личной конфиденциальности и безопасности. Фактически, кибербезопасность становится одним из самых быстрорастущих секторов цифровой экономики из-за возрастающей серьезности ущерба.

Согласно данным Федерального бюро расследований США (ФБР), только в 2024 году киберпреступления причинили ущерб на сумму более 16 миллиардов долларов, что на 33% больше, чем в предыдущем году. Среди трех наиболее распространенных видов киберпреступлений были онлайн-мошенничество и утечки данных.

Вызывает тревогу тот факт, что лишь около 24% инициатив, созданных с помощью ИИ, адекватно защищены от кибератак, что подвергает пользователей высокому риску, если они слишком свободно делятся информацией.

На самом деле, утечек данных было много, например, утечка данных ChatGPT в мае 2023 года, в результате которой была раскрыта конфиденциальная информация почти 100 000 пользователей, что вынудило платформу временно прекратить работу.

Также в том же году группа репортеров из The New York Times обнаружила, что их личные данные были скомпрометированы во время тестирования. Эти инциденты послужили явным предупреждением о том, что отправка персональных данных чат-ботам с искусственным интеллектом никогда не является безопасным вариантом.

2. Дипфейки могут стать инструментами, облегчающими мошеннические схемы с целью кражи личных данных.

Передача личной информации инструментам искусственного интеллекта не только увеличивает риск утечки данных, но и открывает более сложную угрозу: мошенничество с использованием дипфейков. Сегодня многие люди регулярно загружают свои фотографии в сервисы редактирования с использованием ИИ, от улучшения их внешнего вида до создания совершенно новых изображений, практически не задумываясь о последствиях.

Это удобство непреднамеренно предоставляет злоумышленникам материал для создания дипфейков — цифровых изображений или видео, в которых персонажи выглядят так, будто они делают или говорят то, чего никогда не было.

Эту технологию становится все сложнее обнаружить, она способна обмануть как обычных пользователей, так и базовые системы проверки. В результате киберпреступники могут легко использовать ее для выдачи себя за другое лицо, мошенничества, вымогательства или нанесения серьезного ущерба личной репутации.

Хотя дипфейки, созданные исключительно из персональных данных, пока ещё не получили широкого распространения, возможность воссоздания реалистичных голосов и изображений из утечек данных стала реальной угрозой. Это особенно опасно, когда личные данные пользователей попадают в чужие руки, создавая возможности для всё более неконтролируемого мошенничества.

3. Чат-боты с искусственным интеллектом запоминают больше, чем вы думаете.

Одно из неписаных правил цифровой эпохи гласит: «Интернет ничего не забывает». Это справедливо не только для поисковых запросов в Google или сообщений в социальных сетях, но и для общения с чат-ботами на основе искусственного интеллекта.

Многие считают, что при нажатии кнопки «удалить» данные исчезают полностью. Однако на самом деле всё гораздо сложнее. Например, OpenAI утверждает, что переписки в ChatGPT «удаляются полностью» из системы только в течение 30 дней, если пользователь удаляет всю свою учетную запись. Для тех, кто продолжает пользоваться приложением, отдельные переписки не могут быть навсегда удалены из истории.

Исследование, проведенное Университетом Северной Каролины (США), показывает, что удаление данных из больших языковых моделей возможно, но проверить это с уверенностью практически невозможно. Это означает, что чат-боты, вероятно, запоминают больше, чем думают пользователи.

При длительном хранении персональных данных риски значительно возрастают в случае утечек данных, целенаправленных кибератак или просто изменений в политике поставщика услуг. В таких сценариях последствия для пользователей могут быть крайне серьезными.

4. Предоставление данных для обучения чат-ботов с искусственным интеллектом может нанести ущерб вашим правам на интеллектуальную собственность.

Современные системы искусственного интеллекта работают с использованием алгоритмов машинного обучения, которые опираются на миллионы наборов данных для поиска закономерностей и генерации релевантных ответов. Важно отметить, что этот процесс обучения не прекращается после развертывания ИИ, и данные пользователей, собранные во время разговоров, взаимодействий или загрузки контента, могут продолжать использоваться в качестве «сырья» для дальнейшего улучшения модели.

Это означает, что любая предоставленная вами информация, какой бы непреднамеренной она ни была, потенциально может быть использована для обучения ИИ. В конце 2024 года LinkedIn столкнулась с волной резкой критики, когда признала использование пользовательских данных для обучения своих инструментов ИИ. После негативной реакции компания была вынуждена добавить опцию, позволяющую пользователям отказаться от использования данных, но на самом деле очень немногие знали об этом или активно корректировали настройки.

LinkedIn не является исключением. Meta также использует данные из Facebook и Instagram, а Amazon использует диалоги с Alexa для разработки своей модели. Последствия могут привести к серьезным нарушениям прав интеллектуальной собственности; произведения, созданные с помощью ИИ, иногда поразительно похожи на личные творения писателей и художников, что создает риск их копирования на самой цифровой платформе. Это вызвало многочисленные коллективные иски и волны протестов со стороны творческого сообщества.

5. Чат-боты с искусственным интеллектом могут использовать вашу личную информацию против вас.

Риски, связанные с передачей персональных данных искусственному интеллекту, выходят за рамки нарушения прав интеллектуальной собственности; они также заключаются в потенциальной предвзятости, присущей крупномасштабным языковым моделям. Поскольку эти инструменты обучаются на огромных массивах данных, они подвержены влиянию социальных предубеждений, что может привести к дискриминационным решениям или предложениям.

Центр по вопросам конфиденциальности и технологий при Джорджтаунском университете (США) подсчитал, что изображения половины всех взрослых жителей США хранятся в базах данных распознавания лиц, используемых правоохранительными органами.

В то же время афроамериканцы составляли почти 40% заключенных. Когда эти данные были введены в систему искусственного интеллекта, алгоритмы были подвержены ошибкам при идентификации подозреваемых или сопоставлении лица с текстовым или графическим описанием.

Риски не ограничиваются только безопасностью; технологии искусственного интеллекта также применяются для проверки кандидатов на работу, одобрения кредитов или аренды и потенциально могут выявлять скрытые предубеждения.

В 2015 году компания Amazon была вынуждена остановить работу своей автоматизированной системы подбора персонала из-за обнаружения гендерной предвзятости. Это демонстрирует, что, хотя отдельные лица могут иметь ограниченный контроль над данными для обучения ИИ, осторожность в обмене информацией остается необходимой защитой от технологических предубеждений.