Генеральный директор Flock высказался по поводу скандала с неправомерным использованием камер видеонаблюдения: кто несет ответственность?
Система камер с искусственным интеллектом Flock подвергается резкой критике за неправомерные аресты и нарушение конфиденциальности, в то время как руководители компании отрицают ответственность за контроль над данными.
Распространение систем видеонаблюдения в США влечет за собой серьезные последствия: все больше людей несправедливо обвиняются из-за технических ошибок. В центре этого скандала находится компания Flock, существующая уже семь лет и предоставляющая правоохранительным органам по всей стране системы видеонаблюдения с использованием искусственного интеллекта.
Темная сторона технологий видеонаблюдения с использованием искусственного интеллекта и распознавания номерных знаков.
Камеры Flock сейчас находятся под пристальным вниманием, поскольку число жертв ошибочной идентификации продолжает расти. Сочетая косвенные доказательства, видеозаписи с камер и алгоритмы искусственного интеллекта, многие полицейские управления в США становятся чрезмерно зависимыми от данных частных компаний в правоохранительной деятельности, даже когда эти системы могут давать неточные результаты.
Проблема касается не только Flock. Внедрение программного обеспечения для распознавания лиц с использованием ИИ, автоматизированных систем считывания номерных знаков и микрофонов для обнаружения выстрелов происходит без надлежащего обучения или мер оперативной безопасности. Это приводит к тому, что данные не обрабатываются и не используются ответственно или законно.
Когда алгоритмы заменяют фактические доказательства
Одно из самых серьезных дел касалось Майкла Уильямса, жителя Чикаго, который провел почти год в тюрьме по обвинению в убийстве на основании показаний микрофона системы обнаружения выстрелов ShotSpotter. Система первоначально классифицировала звук как фейерверк и даже не зафиксировала его вблизи местоположения Уильямса. Однако этого оказалось достаточно, чтобы полиция арестовала его, несмотря на отсутствие каких-либо вещественных доказательств.
Опора на доказательства, полученные с помощью ИИ, быстро становится новым стандартом. В системах распознавания номерных знаков бремя доказывания невиновности перекладывается с полиции на водителей. Визуальные доказательства, полученные с помощью этих систем, кажутся безошибочными, хотя это не так.
Спорный ответ генерального директора Flock
На фоне опасений по поводу неправомерного использования данных, отслеживания иммиграционных маршрутов или нарушения конфиденциальности генеральный директор Flock Гаррет Лэнгли отреагировал неожиданно. В интервью 9NEWS, когда его спросили о его ответственности за контроль над тем, как полиция использует данные компании, Лэнгли ответил: «Я не думаю, что это входит в мои обязанности».
Он также пояснил, что в случае обнаружения каких-либо нарушений в использовании данных он свяжется с соответствующими органами для принятия мер. Однако наблюдатели указали на противоречие, поскольку этими органами зачастую являются те же самые полицейские управления, которые изначально предоставляли данные.
Волна протестов и мер самообороны со стороны населения.
Многие штаты США начали осознавать риски и расторгать контракты с компанией DeFlock и аналогичными агентствами. Одновременно с этим местные сообщества начали самостоятельно контролировать развертывание этих камер с помощью таких систем, как DeFlock и OpenMaps. Примечательно, что Лэнгли назвал DeFlock «террористической организацией» — заявление, которое еще больше усилило напряженность между компанией, занимающейся слежкой, и группами, защищающими частную жизнь.
