Amazon sẽ tiếp tục bán công nghệ nhận dạng khuôn mặt cho cơ quan thực thi pháp luật

Bất chấp sự phản đối và tuyên bố có vấn đề về thiên vị, CEO của AWS đã báo cáo với nhân viên rằng họ sẽ tiếp tục bán ra công nghệ nhận dạng khuôn mặt cho cơ quan thực thi pháp luật.

Theo một nguồn tin từ Verge, Giám đốc điều hành AWS Andrew Jassy đã nói với nhân viên của mình trong một cuộc họp rằng:

“Chúng tôi cảm thấy thật tuyệt vời và vô cùng tin tưởng vào giá trị mà công nghệ nhận dạng của Amazon đang cung cấp cho khách hàng của chúng tôi trên mọi quy mô và mọi ngành liên quan đến thực thi pháp luật và ngoài phạm vi thực thi pháp luật.”

Nhân viên của những gã khổng lồ công nghệ ở Thung lũng Silicon như Amazon, Microsoft và Google đã vận động các nhà lãnh đạo của họ không ký hợp đồng với những công nghệ mà họ cho rằng có thể bị lạm dụng công nghệ do chính họ xây dựng – cho dù là đó là công nghệ khả năng thống trị xã hội hay sử dụng năng lực quân sự.

Hồi tháng 7, tạp chí AI News của chúng tôi báo cáo về những phát hiện của ACLU (Liên đoàn Tự do Dân sự Mỹ – American Civil Liberties Union) cho thấy phần mềm nhận diện khuôn mặt của Amazon đã gắn cờ cho các thành viên của nhóm Nghị sĩ người da đen (Congressional Black Caucus) làm tội phạm một cách không tương xứng trong một cuộc thử nghiệm trên các thành viên của Quốc hội xem liệu chúng có khớp với cơ sở dữ liệu của ảnh căn cước hay không.

Jacob Snow, Luật sư về công nghệ và quyền tự do cá nhân tại ACLU Foundation của Bắc California, cho biết:

“Thử nghiệm của chúng tôi củng cố thêm rằng công nghệ kiểm soát khuôn mặt không an toàn để sử dụng trong chính phủ.

Kiểm soát khuôn mặt sẽ được sử dụng để giám sát và phân biệt đối xử, nhắm mục tiêu vào các cộng đồng da màu, di dân và các nhà hoạt động.

Một khi công nghệ này được phát hành, thì sẽ không bao giờ tháo gỡ được những thiệt hại đó.”

Tuy nhiên, Amazon lập luận rằng ACLU đã bác bỏ thiết lập ngưỡng tin cậy mặc định của Rekognition là 80% khi công ty đề xuất mức 95% hoặc cao hơn khi sử dụng trong thực thi pháp luật.

Bình luận về những phát hiện của ACLU, Tiến sĩ Matt Wood, GM của Deep Learning và AI tại AWS, đã viết trong một bài đăng trên blog:

“Ngưỡng tin cậy mặc định dành cho API nhận diện khuôn mặt trong Rekognition là 80%, là con số khá tốt để sử dụng trong một loạt các trường hợp nói chung (chẳng hạn như xác định người nổi tiếng trên phương tiện truyền thông xã hội hoặc thành viên gia đình giống nhau trong ứng dụng hình ảnh), nhưng đó không phải là con số thiết lập an toàn cho các trường hợp sử dụng nơi công cộng.

Ngưỡng tin cậy 80% được ACLU sử dụng là quá thấp để đảm bảo nhận dạng chính xác các cá nhân; chúng tôi hy vọng đây chỉ là một con số nhầm lẫn.”

Wood cung cấp một ví dụ điển hình về thử nghiệm riêng của họ, sử dụng bộ dữ liệu gồm hơn 850.000 khuôn mặt thường được sử dụng trong học viện, công ty đã tìm kiếm các bức ảnh công khai của tất cả các thành viên của Quốc hội Hoa Kỳ ‘theo cách tương tự’ với ACLU.

Sử dụng ngưỡng tin cậy 99%, tỷ lệ nhận dạng sai đã giảm xuống 0 mặc dù so sánh với số lượng khuôn mặt lớn hơn.

Một tháng trước, nhân viên của Amazon đã viết thư cho Giám đốc điều hành Jeff Bezos. Trong đó có câu:

“Chúng tôi từ chối xây dựng nền tảng hỗ trợ ICE [Nhập cư và Hải quan] và chúng tôi từ chối đóng góp cho các công cụ vi phạm nhân quyền.

Với tư cách là những nhân viên Amazon quan tâm đến vấn đề đạo đức, chúng tôi cần sự lựa chọn đối với những gì mà chúng tôi xây dựng và đóng góp tiếng nói trong cách sử dụng chúng.”

Đầu năm nay, một số nhân viên của Google đã từ chức để phản đối hợp đồng bảo vệ Dự án Maven của công ty với Lầu Năm Góc. Google đã thông báo sẽ không gia hạn hợp đồng và sẽ không thực hiện công việc đó trong tương lai.

Cho dù có thể thấy một số nhân viên Amazon sẽ quyết định từ bỏ việc biểu tình nhưng vẫn còn tranh cãi làm ảnh hưởng đến hướng phát triển của công nghệ này và gây ra một làn sóng cho rằng hầu hết các phát triển công nghệ có thể bị lợi dụng để thực hiện mục đích gây hại.

Ít nhất những người làm việc trên tinh thần đạo đức ở tại Amazon cũng có thể giúp hướng dẫn dự án, thúc đẩy sự minh bạch và đảm bảo công nghệ được sử dụng một cách có đạo đức. Đó có lẽ là điều tốt nhất mà chúng ta có thể hy vọng để tránh viễn cảnh tương lai trở thành một thảm họa.

Nguồn bài viết : https://www.iottechnews.com