Facebook Dùng AI Ngăn Chặn Tự Tử Trên Toàn Thế Giới

Tính đến tháng 11/2017, vẫn còn có rất nhiều mối lo về trí thông minh nhân tạo AI, nhưng Facebook vẫn tin rằng AI sẽ giúp cuộc sống con người tốt hơn, và vẫn đang tiếp tục tiến về phía trước để khẳng định niềm tin. Thành quả mới nhất là một hệ thống có khả năng cứu người. Theo đó, AI của Facebook sẽ “phát hiện chủ động” bằng cách quét tất cả các bài viết có liên quan đến ý nghĩ tự tử của người dùng. Nếu cần thiết, hệ thống sẽ gửi thông tin đến bạn bè của họ hoặc những đơn vị có chức trách ở khu vực.

Sử dụng AI để phát hiện các bài post đáng lo ngại và chuyển đến cho người kiểm duyệt, Facebook có thể sẽ nhanh chóng đưa ra phản ứng kịp thời trước khi mọi thứ quá muộn. Trước đây, Facebook từng thử nghiệm dùng AI để lọc ra những bài viết có vấn đề và các ý định tự tử tại Mỹ. Đến tháng 11/2017, Facebook đã bắt đầu mở rộng phạm vi của phần mềm trên khắp thế giới, ngoại trừ Liên minh Châu Âu, nơi có các quy định phức tạp về bảo mật thông tin người dùng.

Những dòng trạng thái về việc tự tử cũng sẽ có nhiều người xem hơn sau khi được thuật toán của Facebook nhận diện. Rõ ràng, những lời động viên hoặc hỏi han kịp thời từ bạn bè đôi khi lại có ích trong tình huống tương tự. Facebook cũng sẽ bổ sung thêm nhiều nhân sự kiểm duyệt hơn, làm việc 24/7 nhằm ngăn chặn tối đa khả năng tự tử. Guy Rosen, phó giám đốc mảng quản lý sản phẩm của Facebook cho biết, trong tháng thử nghiệm, họ đã phản hồi cho hơn 100 bài viết có liên quan đến tự tử thông qua hoạt động của AI.

Trong một bài viết trên trang cá nhân, CEO Mark Zuckerberg tự hào về sản phẩm của công ty: “Trong tương lai, AI sẽ có thể hiểu được nhiều sắc thái khác nhau của ngôn ngữ và cũng có thể xác định những vấn đề khác ngoài tự tử, chẳng hạn như bắt nạt hay ghen ghét”. Facebook đã huấn luyện cho AI làm việc bằng cách tìm điểm chung trong văn bản và hình ảnh từng được sử dụng trong các dòng trạng thái được cảnh báo bằng tay về nguy cơ tự tử trong quá khứ. Các bình luận như “bạn ổn chứ?” hay “bạn có cần giúp gì không” cũng được rà soát.

Rosen cho biết: “Chúng tôi đã trò chuyện cùng với các chuyên gia về sức khoẻ tâm thần và một trong những cách tốt nhất để giúp ngăn chặn tự tử chính là làm cho bạn bè hoặc gia đình quan tâm đến họ. Điều này đặt Facebook vào một vai trò độc nhất vô nhị. Chúng tôi có thể giúp kết nối những người đang gặp khó khăn với bạn bè và các tổ chức có thể giúp họ”

Thông qua sự phối hợp giữa AI, nhân viên điều hành và các báo cáo của người dùng, công ty có thể ngăn chặn được các thảm kịch có thể xảy ra, chẳng hạn như những vụ tự tử khi Live Stream. Nhiều người tìm đến Live Stream như một thứ để tiếp thêm động lực cho việc tự tử, nên Facebook thấy cần phải có giải pháp.

Với hơn 2 tỷ người dùng, Facebook hiểu hãng cần làm gì đó để giúp đỡ cộng đồng. Không chỉ tạo ra phương thức để mọi người liên lạc và chăm sóc lẫn nhau, Facebook đã vô tình tạo ra một công cụ để mọi người thể hiện những màn hành xác bạo lực gây ra cho chính bản thân họ hoặc người khác, và công ty không muốn để mọi thứ tiếp diễn. Việc tạo ra một phương thức giao tiếp toàn cầu phổ biến có vẻ như đã khiến cho Facebook phải gánh những trách nhiệm vượt xa hầu hết các công ty khác trong lĩnh vực công nghệ, và vượt xa cả trí tưởng tượng của con người.