OpenAI Nghiên Cứu Các Vấn Đề Cụ Thể Về Tính An Toàn Của AI

25 Tháng Sáu 20167:00 CH(Xem: 4043)
OpenAI Nghiên Cứu Các Vấn Đề Cụ Thể Về Tính An Toàn Của AI
blank
Hạ tuần tháng 06/2016, trang blog của OpenAI – thuộc Google – đã công bố nghiên cứu “Concrete Problems in AI Safety” (tạm dịch “Những vấn đề cụ thể về tính an toàn của Trí tuệ nhân tạo”)

Theo nghiên cứu, để hoàn thành nhiệm vụ đặt ra ban đầu, robot AI có thể bất chấp mọi thứ, làm tổn hại những thứ ngăn cản nó để nhanh chóng hoàn thành nhiệm vụ, hoặc thậm chí là học cách lừa dối, giấu đi những dấu chỉ cho việc chưa hoàn thành nhiệm vụ.

Nghiên cứu của OpenAI nhằm làm rõ những mối quan hệ giữa con người và robot, chỉ ra những nỗi sợ đích thực đến từ AI, từ đó tìm cách giải quyết vấn đề, tạo ra một thế giới con người sống chung với máy móc một cách thân thiện và an toàn hơn.

Không giống với những gì thường thấy trên những bộ phim viễn tưởng, thực tế danh sách những điều AI khiến con người lo ngại hiện khá cơ bản, chủ yếu tập trung vào các vấn đề như khả năng thích ứng, sự án toàn khi khai thác và sử dụng thông tin,...

Báo cáo cho thấy, robot sẽ học tập thông qua quá trình lặp lại và thăm dò thông tin tương tự như các thuật toán trí tuệ nhân tạo. Tuy nhiên, khác với các phần mềm thuần túy, một con robot AI có thể cố làm những thứ có khả năng gây hại cho con người.

Báo cáo đã chỉ ra 5 mối lo lại chủ yếu trong mối quan hệ giữa AI và con người, trong đó yếu tố hàng đầu là “tránh xảy ra các tác dụng phụ mang tính tiêu cực”. Các nhà nghiên cứu cho rằng, nếu robot thực hiện những thay đổi không mong muốn tác động tới môi trường thì nó cần phải bị trừng phạt, trong khi đó vẫn cho phép nó có thời gian khám phá và học hỏi. Đây chính là vấn đề mà không chỉ con người sợ robot mà dưới góc độ nào đó thì chính những con robot này cũng biết “sợ” trong khái niệm hoàn thành nhiệm vụ hoặc thậm chí là “bị trừng phạt”.

Bên cạnh đó, các vấn đề khác như hình thức thưởng sai lầm, nhận thức sai giá trị của công việc, đồ vật,... hoặc thậm chí là hình thành khả năng lừa dối: robot sẽ “tìm hiểu để thực hiện mục tiêu được đặt ra bằng cách ẩn đi các bằng chứng cho thấy công việc chưa hoàn thành”.

Vấn đề được đặt ra là “làm thế nào để đảm bảo một con robot quét dọn không gây tổn hại tới môi trường theo cách tiêu cực trong khi hoàn thành nhiệm vụ, chẳng hạn như làm vỡ một cái bình hoa để quét dọn nhanh hơn?”. Một trong những cách được đưa ra là có thể là đưa ra hình phạt nếu làm vỡ bình, xa hơn nữa là tăng cường mức độ nhận thức môi trường hoạt động của robot, cho phép nó hiểu được “nhiệm vụ A cần được hoàn thành với điều kiện hạn chế các tác dụng phụ ở mức thấp nhất”

Tất cả đều cung cấp thêm một cái nhìn tổng quát về những vấn đề có thể phát sinh trong mối quan hệ chung sống giữa robot AI và con người. Rất nhiều vấn đề hoàn toàn không mới lạ. Các nghiên cứu sẽ còn được tiếp tục để đưa ra được những giải pháp cho một thế giới mà AI cùng con người sống chung thân thiện và an toàn.
55Vote
40Vote
30Vote
20Vote
10Vote
55
Gửi ý kiến của bạn
Tắt
Telex
VNI
Tên của bạn
Email của bạn
Tạo bài viết
22 Tháng Hai 2021
Hôm thứ Hai (22/02/2021), Ủy ban An toàn Hà Lan (Dutch Safety Board - DSB) thông báo đang điều tra vụ máy bay chở hàng Boeing 747-400 gặp sự cố, khiến hàng chục mảnh vỡ động cơ rơi xuống làng Meerssen ở miền nam Hà Lan.
21 Tháng Hai 2021
Giới chức Mỹ yêu cầu kiểm tra và có thể loại bỏ một số chiếc Boeing 777 sau khi máy bay của United Airlines cháy động cơ trên không.
21 Tháng Hai 2021
40 người vô gia cư ở St. Petersburg được tiêm vaccine Covid-19 hôm Chủ nhật (21/02/2021), nhờ một sáng kiến từ thiện nhận được sự ủng hộ của các quan chức địa phương.
17 Tháng Hai 2021
Cơn khát vaccine của một số nước Châu Âu làm tăng ảnh hưởng của Trung Quốc, vốn đang nỗ lực thể hiện mình là một đồng minh chống Covid-19 đáng tin cậy.
17 Tháng Hai 2021
Các quan chức Lầu Năm Góc cho biết khoảng 1/3 quân đội Mỹ từ chối tiêm vaccine Covid-19, bất chấp mức độ lây nhiễm đáng lo ngại.
16 Tháng Hai 2021
Bà Ngozi Okonjo-Iweala, cựu bộ trưởng tài chính Nigeria, trở thành người Châu Phi đầu tiên và cũng là phụ nữ đầu tiên giữ cương vị tổng giám đốc của Tổ chức Thương mại Thế giới (WTO).