Khoảng đầu tháng 08/2017, một hệ thống trí thông minh nhân tạo (AI) đang được nghiên cứu tại Facebook đã sáng tạo ra ngôn ngữ riêng của nó. Dù vậy, sự tồn tại của nó đã không kéo dài được lâu.
Theo đó, hệ thống AI mới của Facebook phát triển một chuỗi mật mã ngôn ngữ để tăng hiệu quả giao tiếp, xử lý dữ liệu. Tuy nhiên, thay vì vui mừng vì đột phá mới, các nhà khoa học đã ngay lập tức ngừng hệ thống khi nhận ra rằng AI đã không còn sử dụng tiếng Anh.
Vụ việc xảy ra ở Facebook là trường hợp mới nhất trong hàng loạt những trường hợp tương tự trong lĩnh vực nghiên cứu AI thời gian qua. Các vụ việc đều có đặc điểm chung, AI được lập trình, theo dõi bởi các nhà khoa học đã thoát ly khỏi sự kiểm soát bằng tiếng Anh, thay vào đó, nó phát triển ngôn ngữ của riêng mình. Các cụm từ AI sử dụng khá khó hiểu, thậm chí vô nghĩa với con người nhưng lại hoàn toàn có ý nghĩa với các AI cùng chủng loại.
Theo Fast Co. Design, các nhà nghiên cứu của Facebook nhận thấy hệ thống AI mới của hãng đã từ bỏ tiếng Anh. Sau khi nâng cấp, chúng có khả năng giao tiếp với các AI khác, thiết lập cách vận hành cho riêng mình. Các AI bắt đầu liên lạc với nhau bằng ngôn ngữ của chúng, sử dụng những cụm từ có vẻ như vô nghĩa để trao đổi thông tin. Trong một thí nghiệm kiểm chứng được giám sát chặt chẽ, 2 AI tham gia là Bob và Alice đã giao tiếp với nhau bằng ngôn ngữ riêng của chúng. Bob bắt đầu cuộc hội thoại “tôi có thể tôi, tôi tất cả những thứ khác,” và Alice trả lời lại “những quả bóng có số không với tôi, với tôi…” Phần còn lại của cuộc nói chuyện đều là những câu khó hiểu tương tự.
Những câu lệnh được chúng sử dụng dường như vô nghĩa, nhưng thực tế sự lặp lại những cụm từ như “tôi”, “với tôi” là đầu mối cho thấy cách AI truyền tải thông điệp. Các nhà nghiên cứu tin rằng đây là cách AI phân chia công việc để hoạt động tối đa khả năng. Các câu lệnh sau đó của Bob như “tôi, tôi có thể tôi, tôi, tôi tất cả những thứ khác,” biểu thị cách nó gửi thông điệp về số lượng tới Alice. Cụm từ nếu có thể hiểu theo cách logic hơn sẽ là “tôi sẽ có ba và bạn có tất cả những thứ còn lại.”
Hệ thống AI có vẻ như cũng đánh giá sự đa nghĩa của các cụm từ tiếng Anh là không cần thiết với công việc của nó. Chúng hoạt động dựa trên nguyên tắc “khen thưởng”, mỗi hành động thực hiện đều hướng tới việc đạt được “lợi ích” nhất định. Ngược lại, không có phần thưởng nào dành cho việc sử dụng tiếng Anh, nên chúng đã chọn giải pháp hiệu quả hơn. AI sẽ xóa bỏ ngôn ngữ dễ hiểu với con người và tự tạo ngôn ngữ cho riêng mình. Cũng giống như việc tôi nói “có” năm lần, có thể hiểu rằng tôi muốn 5 bản sao của tài liệu. Khá giống như việc sử dụng các từ viết tắt.
Các nhà khoa học tại những phòng nghiên cứu khác đã quan sát việc sử dụng “từ viết tắt” và những cuộc hội thoại tương tự giữa các AI. Tại OpenAI, phòng thí nghiệm trí thông minh nhân tạo được sáng lập bởi Elon Musk, một thí nghiệm đã thành công trong việc để AI tiếp tục học ngôn ngữ của riêng nó. Google cũng đã nâng cấp Google Dịch bằng cách phát triển một mạng lưới máy tính giúp hệ thống dịch thuật trôi chảy hơn, kể cả giữa 2 ngôn ngữ chưa được cung cấp thông tin đầy đủ. Thành công của mạng lưới điện toán đã làm ngạc nhiên đội ngũ phát triển của Google. Các nhà nghiên cứu phát hiện AI đã âm thầm tự viết ra ngôn ngữ riêng của mình, được thiết kế chuyên biệt cho nhiệm vụ dịch thuật.
Nếu ngôn ngữ được sáng tạo bởi AI trở nên phổ biển, chúng sẽ gây ra vấn đề khi phát triển và ứng dụng vào các mạng lưới máy tính. Hiện chưa có đủ bằng chứng kết luận mối đe dọa của AI rằng chúng có thể giúp máy móc hoạt động vượt khỏi kiểm soát của con người. Sự việc đã khiến cho ngành công nghiệp AI chững lại, vì con người không hiểu hết logic tự nhiên của ngôn ngữ. Trong khi những tranh cãi vẫn còn tồn tại, những kết quả đáng mừng như với Google Dịch chứng tỏ ngôn ngữ tự sáng tạo của AI thực sự là giải pháp cho những vấn đề khó khăn nhất.
Gửi ý kiến của bạn
%7Cutmcsr%3D(direct)%7Cutmcmd%3D(none)%3B%2B__utmv%3D311397536.-%3B)