Những Gì Xảy Ra Khi Robot Của Google Gây Khó Chịu Cho Con Người

Trang Wall Street Journal cho biết, Google đã thực hiện một loạt các thí nghiệm về việc con người trò chuyện với một chương trình máy tính. Chương trình này đã được trang bị một cơ sở máy dữ liệu của toàn bộ các tập lệnh cho trước.

Cuộc hội thoại được ghi lại và trình bày trong một báo cáo có tự đề là “A Neural Conversation Model” (PDF).

Đoạn hội thoại giữa con người và robot trò chuyện với nhau là về đề tài đạo đức. Con người nói rằng “tôi cần biết về việc tôi nên cư xử thế nào về mặt đạo đức”. Robot hiểu nhưng trả lời rằng: “tôi không biết nói với bạn như thế nào”.

Con người tự hỏi rằng liệu phẩm chất đạo đức và chuẩn mực đạo đức có giống nhau không. Họ cho rằng có và nói với robot. Tuy nhiên khi con người hỏi các ví dụ về hành vi đạo đức, robot đã đề cập về “tính toàn vẹn”.

Khi nói về tính toàn vẹn, robot đã đưa ví dụ về một người tình không chung thủy cố gắng giải thích về mình với người yêu cũ rằng: “tôi không biết phải nói gì thêm nữa”. Chuyện bắt đầu trở nên tồi tệ khi con người kêu lên rằng: “hãy cư xử đạo đức”, robot đã hét lại đáp trả: “hãy cư xử như một con người”.

Con người bày tỏ rằng: “tôi thực sự thích thảo luận về phẩm chất đạo đức và chuẩn mực đạo đức”. Tuy nhiên, robot lại phản ứng rằng: “phải làm sao đây khi tôi không có hứng thú cho một cuộc tranh luận triết học”.

Rõ ràng, robot thử nghiệm của Google có thể hiểu được các câu hỏi và cuộc trò chuyện với con người, nhưng có vẻ như Google sẽ cần phải cải thiện thử nghiệm của mình nhiều hơn nữa.