CEO Flock lên tiếng về bê bối lạm dụng camera giám sát: Trách nhiệm thuộc về ai?

Sự gia tăng của các hệ thống giám sát tại Mỹ đang kéo theo những hệ lụy nghiêm trọng khi ngày càng nhiều người bị cáo buộc sai vì lỗi từ công nghệ. Trong tâm điểm của những tranh cãi này là Flock, một công ty 7 năm tuổi đang cung cấp hệ thống camera AI cho các lực lượng thực thi pháp luật trên khắp quốc gia này.

Góc tối của công nghệ giám sát AI và nhận diện biển số

Các camera của Flock hiện đang bị giám sát chặt chẽ khi số lượng nạn nhân của việc nhận diện sai danh tính ngày càng tăng. Bằng cách kết hợp các bằng chứng gián tiếp, cảnh quay camera và thuật toán AI, nhiều sở cảnh sát tại Mỹ đang phụ thuộc quá mức vào dữ liệu từ các công ty tư nhân để thực hiện nhiệm vụ thực thi pháp luật, ngay cả khi hệ thống này có thể đưa ra kết quả sai lệch.

Vấn đề không chỉ nằm ở riêng Flock. Việc triển khai phần mềm nhận diện khuôn mặt AI, đầu đọc biển số xe tự động và micro phát hiện tiếng súng đang diễn ra mà thiếu sự đào tạo bài bản hoặc các biện pháp bảo mật vận hành. Điều này dẫn đến việc dữ liệu không được quản lý và sử dụng một cách có trách nhiệm hoặc đúng luật.

Khi thuật toán thay thế bằng chứng thực tế

Một trong những trường hợp nghiêm trọng nhất là Michael Williams, một cư dân Chicago, người đã phải ngồi tù gần một năm vì cáo buộc giết người dựa trên bằng chứng từ micro phát hiện tiếng súng ShotSpotter. Hệ thống này ban đầu phân loại âm thanh là pháo hoa và thậm chí không phát hiện thấy nó ở gần khu vực của Williams. Tuy nhiên, bấy nhiêu đó là đủ để cảnh sát bắt giữ ông dù không tìm thấy bất kỳ bằng chứng vật chất nào.

Sự phụ thuộc vào bằng chứng AI đang nhanh chóng trở thành một tiêu chuẩn mới. Đối với các hệ thống đọc biển số xe, gánh nặng chứng minh sự vô tội đang chuyển dịch từ cơ quan cảnh sát sang người lái xe. Các bằng chứng hình ảnh từ những hệ thống này dường như được coi là không thể sai lầm, dù thực tế không phải vậy.

Phản hồi gây tranh cãi của CEO Flock

Trước những lo ngại về việc lạm dụng dữ liệu, theo dõi người nhập cư hoặc xâm phạm quyền riêng tư, CEO Garrett Langley của Flock đã có phản ứng gây bất ngờ. Trong một cuộc phỏng vấn với 9NEWS, khi được hỏi về trách nhiệm kiểm soát cách cảnh sát sử dụng dữ liệu của công ty, ông Langley trả lời: "Tôi không nghĩ đó là công việc của mình".

Ông giải thích thêm rằng nếu phát hiện việc lạm dụng dữ liệu, ông sẽ liên hệ với các cơ quan chức năng có thẩm quyền để giải quyết. Tuy nhiên, giới quan sát chỉ ra sự mâu thuẫn khi các cơ quan này thường chính là những sở cảnh sát đang cung cấp dữ liệu ngay từ đầu.

Làn sóng phản đối và các biện pháp tự vệ của cộng đồng

Nhiều bang tại Mỹ đã bắt đầu nhận thấy rủi ro và hủy bỏ hợp đồng với Flock cùng các cơ quan tương tự. Song song đó, cộng đồng cũng bắt đầu tự theo dõi việc triển khai các camera này thông qua các hệ thống như DeFlock và OpenMaps. Đáng chú ý, ông Langley đã gọi DeFlock là một "tổ chức khủng bố" – một phát ngôn càng làm gia tăng căng thẳng giữa công ty giám sát và các nhóm bảo vệ quyền riêng tư.