Facebook Phát Triển AI Có Khả Năng Nói Dối Để Đạt Mục Đích

Tính đến tháng 06/2017, các cảnh báo của giới khoa học về nguy cơ trỗi dậy, thống trị loài người của các robot sở hữu trí thông minh nhân tạo (AI) có thể không còn là điều xa vời, đặc biệt sau khi Facebook công bố một hệ thống AI mới, biết nói dối để đạt được mục đích.

Theo đó, sáng chế của phòng nghiên cứu trí tuệ nhân tạo Facebook cho thấy khả năng đàm phán không còn là duy nhất của con người. Hệ thống AI mới của Facebook chứng minh nó có thể học cách thương thuyết từ việc quan sát tất cả các bên tham gia 5,808 cuộc đối thoại của con người, tạo điều kiện cho các robot mạng (bot) có thể lên lịch gặp gỡ hoặc mang về cho chủ nhân các thỏa thuận hay giao dịch trực tuyến có lợi nhất.

Được biết, nhóm nghiên cứu Facebook đã sử dụng một trò chơi để giúp các bot học cách thương lượng về sách, mũ và các quả bóng rổ. Mỗi vật có một trị số điểm nhất định và các bot phải đàm phán thông qua tin nhắn để phân chia chúng. Trong quá trình chơi, mỗi khi nhìn thấy một vật có giá trị, bot của Facebook sẽ bắt đầu đưa ra một tuyên bố nêu lên các yêu cầu. Chẳng hạn như bot có thể nói: “Tôi thích tất cả các quyển sách” vì các quyển sách có trị số điểm cao hơn mũ hay bóng rổ.

Căn cứ theo những gì quan sát được từ cách con người thương lượng với nhau, hệ thống AI của bot sẽ đưa ra một tập hợp từ ngữ theo trật tự nhất định, giúp nó giành được thứ mong muốn. Không chỉ phát biểu mong muốn trước tiên, bot còn có thể hồi đáp các thông điệp của đối thủ, cho tới khi đối thoại kết thúc. Nhóm nghiên cứu đã thiết lập cho hệ thống AI không bao giờ chấp nhận kết quả “trắng tay” trong các giao dịch. Điều đó cũng có nghĩa là, bot sẽ phải không ngừng đàm phán cho tới khi đạt được mục đích, kể cả khi phải nói dối.

Đáng chú ý, trong khi thương thuyết, thay vì nói thẳng điều mong muốn thật sự, đôi khi hệ thống AI giả vờ tỏ ra quan tâm yêu thích một vật vô giá trị, rồi sau đó nhường nó để đổi lấy thứ thực sự mong muốn. Thậm chí, nhóm nghiên cứu Facebook hiện chưa rõ hệ thống AI học lỏm được thủ thuật từ các nhà đàm phán người thật, hay vô tình có được khả năng đó. Mỗi khi thủ thuật phát huy tác dụng, bot đều được thưởng.

Việc Facebook nghiên cứu các giải pháp giúp cải thiện cách các bot của hãng tương tác với các đối tượng khác không phải là điều gây kinh ngạc. Công ty đã mạnh tay đầu tư cho dự án phát triển các bot có khả năng thay mặt người thật và doanh nghiệp để đàm phán cho nền tảng Messenger, tương lai của dịch vụ khách hàng.

Facebook đã công bố tham vọng tại hội nghị các nhà phát triển F8 năm 2016, nhưng chưa thể hiện thực hóa do các bot thiếu khả năng tạo ra các thông điệp có nghĩa, hoặc có khả năng hiểu nhiều câu hỏi của người dùng. Để thúc đẩy nghiên cứu, Facebook hiện đã công khai tất cả các mã và dữ liệu thu được từ dự án.