Hệ Thống Nhận Diện Gương Mặt Của Amazon Nhầm 26 Nhà Làm Luật California Là Tội Phạm

14 Tháng Tám 20192:30 SA(Xem: 2962)
Hệ Thống Nhận Diện Gương Mặt Của Amazon Nhầm 26 Nhà Làm Luật California Là Tội Phạm
Hệ Thống Nhận Diện Gương Mặt Của Amazon

Khoảng giữa tháng 08/2019, Tổ Chức American Civil Liberties Union (ACLU) đã tiến hành một thử nghiệm đối với phần mềm Rekognition của Amazon - chính là công nghệ nhận diện gương mặt hiện đang được sử dụng bởi lực lượng hành pháp Mỹ; kết quả cho thấy nó nhận dạng nhầm 26 nhà làm luật California là những tên tội phạm nằm trong cơ sở dữ liệu của cảnh sát.

Đây là lần thứ hai ACLU tiến hành thử nghiệm. Trong lần thử nghiệm đầu tiên vào năm 2018, Rekognition hoạt động rất tệ hạ, liên tục cho ra những kết quả sai và đầy tính phân biệt chủng tộc khi nhận diện các thành viên trong Quốc hội Mỹ. Trong lần thử nghiệm thứ hai, ACLU đã tìm cách so sánh 120 hình ảnh của các nhà làm luật tại California với một cơ sở dữ liệu gồm 25,000 hình ảnh định danh do các cơ quan chính phủ chụp. Phần mềm của Amazon cho ra kết quả với tỉ lệ sai vào khoảng 20%.

Phil Ting, một thành viên của hội đồng thành phố San Francisco, và là một trong những người bị nhận diện nhầm, đã sử dụng kết quả thử nghiệm để bày tỏ sự ủng hộ đối với một dự thảo luật nhằm cấm sử dụng công nghệ nhận diện gương mặt trên các camera gắn trên người cảnh sát khi thi hành công vụ. Ông cho biết: “Chúng tôi muốn chạy thử phần mềm như một minh chứng cho thấy nó hoàn toàn chưa sẵn sàng để được đưa vào sử dụng như thế nào. Dù chúng tôi có thể đùa cợt về nó với tư cách là các nhà lập pháp, nhưng nó không phải là chuyện có thể đùa được đối với những người đang cố tìm một công việc, hay đang muốn được an cư lạc nghiệp”


Một người phát ngôn của Amazon nói về vấn đề: “ACLU một lần nữa cố tình sử dụng sai và phát ngôn sai về Amazon Rekognition để thu hút sự chú ý. Như chúng tôi đã nói nhiều lần trước đây, khi được sử dụng để hỗ trợ quyết định do con người thực hiện, với độ chắc chắn khuyến nghị 99%, công nghệ nhận diện gương mặt có thể được sử dụng để phục vụ rất nhiều mục đích có ích, từ hỗ trợ nhận diện tội phậm đến giúp tìm trẻ em thất lạc, đến ngăn chặn nạn buôn người. Chúng tôi sẽ tiếp tục kêu gọi đưa công nghệ nhận diện gương mặt vào luật liên bang để đảm bảo nó được sử dụng một cách có trách nhiệm, và chúng tôi đã chia sẻ những khuyến nghị cụ thể về vấn đề với cả các nhà hoạch định chính sách một cách riêng tư và trên blog của mình một cách công khai”

Matt Cagle, luật sư của ACLU, người làm việc với Đại học Berkeley để xác nhận các kết quả dưới tư cách một bên độc lập, đã tranh cãi về vấn đề. Ông nói ACLU không sử dụng "độ chắc chắn khuyến nghị 99%" vì họ không thể thay đổi các thiết lập mặc định trong phần mềm của Amazon là 80%.

Amazon  bác bỏ khẳng định, chỉ ra trong một bài blog của hãng rằng Rekognition không nên được sử dụng với mức độ chắc chắn dưới 99%. Nhưng nhiều ý kiến có thể chất vấn rằng: tại sao họ không đặt mặc định là 99% trong phần mềm mà lại đặt là 80%?

50Vote
40Vote
30Vote
20Vote
10Vote
00
Gửi ý kiến của bạn
Tắt
Telex
VNI
Tên của bạn
Email của bạn
Tạo bài viết
22 Tháng Hai 2021
Hôm thứ Hai (22/02/2021), Ủy ban An toàn Hà Lan (Dutch Safety Board - DSB) thông báo đang điều tra vụ máy bay chở hàng Boeing 747-400 gặp sự cố, khiến hàng chục mảnh vỡ động cơ rơi xuống làng Meerssen ở miền nam Hà Lan.
21 Tháng Hai 2021
Giới chức Mỹ yêu cầu kiểm tra và có thể loại bỏ một số chiếc Boeing 777 sau khi máy bay của United Airlines cháy động cơ trên không.
21 Tháng Hai 2021
40 người vô gia cư ở St. Petersburg được tiêm vaccine Covid-19 hôm Chủ nhật (21/02/2021), nhờ một sáng kiến từ thiện nhận được sự ủng hộ của các quan chức địa phương.
17 Tháng Hai 2021
Cơn khát vaccine của một số nước Châu Âu làm tăng ảnh hưởng của Trung Quốc, vốn đang nỗ lực thể hiện mình là một đồng minh chống Covid-19 đáng tin cậy.
17 Tháng Hai 2021
Các quan chức Lầu Năm Góc cho biết khoảng 1/3 quân đội Mỹ từ chối tiêm vaccine Covid-19, bất chấp mức độ lây nhiễm đáng lo ngại.
16 Tháng Hai 2021
Bà Ngozi Okonjo-Iweala, cựu bộ trưởng tài chính Nigeria, trở thành người Châu Phi đầu tiên và cũng là phụ nữ đầu tiên giữ cương vị tổng giám đốc của Tổ chức Thương mại Thế giới (WTO).