Hệ Thống Nhận Diện Gương Mặt Của Amazon Nhầm 26 Nhà Làm Luật California Là Tội Phạm

14 Tháng Tám 20192:30 SA(Xem: 947)
Hệ Thống Nhận Diện Gương Mặt Của Amazon Nhầm 26 Nhà Làm Luật California Là Tội Phạm
Hệ Thống Nhận Diện Gương Mặt Của Amazon

Khoảng giữa tháng 08/2019, Tổ Chức American Civil Liberties Union (ACLU) đã tiến hành một thử nghiệm đối với phần mềm Rekognition của Amazon - chính là công nghệ nhận diện gương mặt hiện đang được sử dụng bởi lực lượng hành pháp Mỹ; kết quả cho thấy nó nhận dạng nhầm 26 nhà làm luật California là những tên tội phạm nằm trong cơ sở dữ liệu của cảnh sát.

Đây là lần thứ hai ACLU tiến hành thử nghiệm. Trong lần thử nghiệm đầu tiên vào năm 2018, Rekognition hoạt động rất tệ hạ, liên tục cho ra những kết quả sai và đầy tính phân biệt chủng tộc khi nhận diện các thành viên trong Quốc hội Mỹ. Trong lần thử nghiệm thứ hai, ACLU đã tìm cách so sánh 120 hình ảnh của các nhà làm luật tại California với một cơ sở dữ liệu gồm 25,000 hình ảnh định danh do các cơ quan chính phủ chụp. Phần mềm của Amazon cho ra kết quả với tỉ lệ sai vào khoảng 20%.

Phil Ting, một thành viên của hội đồng thành phố San Francisco, và là một trong những người bị nhận diện nhầm, đã sử dụng kết quả thử nghiệm để bày tỏ sự ủng hộ đối với một dự thảo luật nhằm cấm sử dụng công nghệ nhận diện gương mặt trên các camera gắn trên người cảnh sát khi thi hành công vụ. Ông cho biết: “Chúng tôi muốn chạy thử phần mềm như một minh chứng cho thấy nó hoàn toàn chưa sẵn sàng để được đưa vào sử dụng như thế nào. Dù chúng tôi có thể đùa cợt về nó với tư cách là các nhà lập pháp, nhưng nó không phải là chuyện có thể đùa được đối với những người đang cố tìm một công việc, hay đang muốn được an cư lạc nghiệp”


Một người phát ngôn của Amazon nói về vấn đề: “ACLU một lần nữa cố tình sử dụng sai và phát ngôn sai về Amazon Rekognition để thu hút sự chú ý. Như chúng tôi đã nói nhiều lần trước đây, khi được sử dụng để hỗ trợ quyết định do con người thực hiện, với độ chắc chắn khuyến nghị 99%, công nghệ nhận diện gương mặt có thể được sử dụng để phục vụ rất nhiều mục đích có ích, từ hỗ trợ nhận diện tội phậm đến giúp tìm trẻ em thất lạc, đến ngăn chặn nạn buôn người. Chúng tôi sẽ tiếp tục kêu gọi đưa công nghệ nhận diện gương mặt vào luật liên bang để đảm bảo nó được sử dụng một cách có trách nhiệm, và chúng tôi đã chia sẻ những khuyến nghị cụ thể về vấn đề với cả các nhà hoạch định chính sách một cách riêng tư và trên blog của mình một cách công khai”

Matt Cagle, luật sư của ACLU, người làm việc với Đại học Berkeley để xác nhận các kết quả dưới tư cách một bên độc lập, đã tranh cãi về vấn đề. Ông nói ACLU không sử dụng "độ chắc chắn khuyến nghị 99%" vì họ không thể thay đổi các thiết lập mặc định trong phần mềm của Amazon là 80%.

Amazon  bác bỏ khẳng định, chỉ ra trong một bài blog của hãng rằng Rekognition không nên được sử dụng với mức độ chắc chắn dưới 99%. Nhưng nhiều ý kiến có thể chất vấn rằng: tại sao họ không đặt mặc định là 99% trong phần mềm mà lại đặt là 80%?

50Vote
40Vote
30Vote
20Vote
10Vote
00
Gửi ý kiến của bạn
Tắt
Telex
VNI
Tên của bạn
Email của bạn
Tạo bài viết
07 Tháng Mười Hai 2019
Khoảng đầu tháng 12/2019, Đại sứ Bulgaria tại Moskva Atanas Krastin nhận được thông báo phải rời khỏi Nga trong vòng 24 giờ.
07 Tháng Mười Hai 2019
Khoảng đầu tháng 12/2019, lần đầu tiên, các nhà thiên văn học phát hiện một hành tinh khổng lồ đang có quỹ đạo quay quanh một ngôi sao nhỏ bé, đã chết về dạng sao lùn trắng.
07 Tháng Mười Hai 2019
Chiếc MacBook Pro 16 inch mới của Apple cuối cùng cũng đã khắc phục được lỗi bàn phím, bằng cách thay thế kiểu lẫy butterfly bằng lẫy cắt kéo.
07 Tháng Mười Hai 2019
Trung Quốc đang tiến tới hoàn tất một năm kỷ lục nữa về các vụ vỡ nợ trái phiếu mà các doanh nghiệp của đất nước phát hành trong nước.
07 Tháng Mười Hai 2019
Khoảng đầu tháng 12/2019, Thượng viện Australia lập ủy ban điều tra xem xét khả năng can thiệp chính trị của nước ngoài thông qua các nền tảng mạng xã hội.
07 Tháng Mười Hai 2019
Đây là bài dịch từ bài viết của Adam Millsap, một chuyên gia nghiên cứu về xu hướng dân cư, sự phát triển đô thị và thị trường, được đăng trên Forbes.