OpenAI Nghiên Cứu Các Vấn Đề Cụ Thể Về Tính An Toàn Của AI

Hạ tuần tháng 06/2016, trang blog của OpenAI – thuộc Google – đã công bố nghiên cứu “Concrete Problems in AI Safety” (tạm dịch “Những vấn đề cụ thể về tính an toàn của Trí tuệ nhân tạo”)

Theo nghiên cứu, để hoàn thành nhiệm vụ đặt ra ban đầu, robot AI có thể bất chấp mọi thứ, làm tổn hại những thứ ngăn cản nó để nhanh chóng hoàn thành nhiệm vụ, hoặc thậm chí là học cách lừa dối, giấu đi những dấu chỉ cho việc chưa hoàn thành nhiệm vụ.

Nghiên cứu của OpenAI nhằm làm rõ những mối quan hệ giữa con người và robot, chỉ ra những nỗi sợ đích thực đến từ AI, từ đó tìm cách giải quyết vấn đề, tạo ra một thế giới con người sống chung với máy móc một cách thân thiện và an toàn hơn.

Không giống với những gì thường thấy trên những bộ phim viễn tưởng, thực tế danh sách những điều AI khiến con người lo ngại hiện khá cơ bản, chủ yếu tập trung vào các vấn đề như khả năng thích ứng, sự án toàn khi khai thác và sử dụng thông tin,...

Báo cáo cho thấy, robot sẽ học tập thông qua quá trình lặp lại và thăm dò thông tin tương tự như các thuật toán trí tuệ nhân tạo. Tuy nhiên, khác với các phần mềm thuần túy, một con robot AI có thể cố làm những thứ có khả năng gây hại cho con người.

Báo cáo đã chỉ ra 5 mối lo lại chủ yếu trong mối quan hệ giữa AI và con người, trong đó yếu tố hàng đầu là “tránh xảy ra các tác dụng phụ mang tính tiêu cực”. Các nhà nghiên cứu cho rằng, nếu robot thực hiện những thay đổi không mong muốn tác động tới môi trường thì nó cần phải bị trừng phạt, trong khi đó vẫn cho phép nó có thời gian khám phá và học hỏi. Đây chính là vấn đề mà không chỉ con người sợ robot mà dưới góc độ nào đó thì chính những con robot này cũng biết “sợ” trong khái niệm hoàn thành nhiệm vụ hoặc thậm chí là “bị trừng phạt”.

Bên cạnh đó, các vấn đề khác như hình thức thưởng sai lầm, nhận thức sai giá trị của công việc, đồ vật,... hoặc thậm chí là hình thành khả năng lừa dối: robot sẽ “tìm hiểu để thực hiện mục tiêu được đặt ra bằng cách ẩn đi các bằng chứng cho thấy công việc chưa hoàn thành”.

Vấn đề được đặt ra là “làm thế nào để đảm bảo một con robot quét dọn không gây tổn hại tới môi trường theo cách tiêu cực trong khi hoàn thành nhiệm vụ, chẳng hạn như làm vỡ một cái bình hoa để quét dọn nhanh hơn?”. Một trong những cách được đưa ra là có thể là đưa ra hình phạt nếu làm vỡ bình, xa hơn nữa là tăng cường mức độ nhận thức môi trường hoạt động của robot, cho phép nó hiểu được “nhiệm vụ A cần được hoàn thành với điều kiện hạn chế các tác dụng phụ ở mức thấp nhất”

Tất cả đều cung cấp thêm một cái nhìn tổng quát về những vấn đề có thể phát sinh trong mối quan hệ chung sống giữa robot AI và con người. Rất nhiều vấn đề hoàn toàn không mới lạ. Các nghiên cứu sẽ còn được tiếp tục để đưa ra được những giải pháp cho một thế giới mà AI cùng con người sống chung thân thiện và an toàn.