Facebook đang sử dụng AI tốt hơn để loại bỏ những nội dung mang tính căm thù

Facebook đã dành nhiều năm để xây dựng và triển khai trí thông minh nhân tạo AI (artificial intelligence) để dập tắt những lời nói căm thù trên mạng xã hội khổng lồ của mình. Công ty cho biết hiện họ đang sử dụng công nghệ để chủ động phát hiện gần 95% nội dung bị gỡ xuống. Tuy nhiên, 5% còn lại đó có thể khó giải quyết.

Vào tuần trước, Facebook cho biết hệ thống AI của họ đã phát hiện 94,7%; trong số 22,1 triệu nội dung có lời nói căm thù mà họ đã xóa khỏi trang web xã hội trong quý 3 năm 2020. Con số này tăng từ việc AI phát hiện 80,5% trong số 6,9 triệu nội dung mà nó đã gỡ xuống trong cùng quý một năm trước. Vào năm 2017, công ty đã có thể sử dụng AI để chủ động phát hiện lời nói căm thù ít hơn nhiều - 24% tổng số nội dung liên quan đến thù địch mà công ty đã gỡ xuống vào thời điểm đó. Các số liệu được lấy từ ấn bản mới nhất của báo cáo Community Standards Enforcement Report mà công ty bắt đầu phát hành hàng quý kể từ tháng 8.

Bản cập nhật được đưa ra chỉ vài ngày sau khi Giám đốc điều hành Facebook - Mark Zuckerberg phát biểu trước Quốc hội về quy định internet. Trong đó ông liên tục chỉ ra sự phụ thuộc của công ty vào các thuật toán để phát hiện nội dung khủng bố và bóc lột trẻ em trước khi bất kỳ ai nhìn thấy nó.

Giống như nhiều mạng xã hội khác, Facebook dựa vào AI để giúp một nhóm người kiểm duyệt một 'núi' nội dung ngày càng tăng trên Facebook và Instagram. Việc xóa các bài đăng và quảng cáo phản cảm của người dùng là một nhiệm vụ khó khăn, không bao giờ kết thúc, một phần là do con người đặc biệt giỏi trong việc hiểu điều gì khác biệt giữa bức tranh khỏa thân nghệ thuật với một bức ảnh bóc lộ còn AI thì sẽ nhận thức kém hơn. 

Trong một cuộc gọi video với các phóng viên vào tuần trước, Giám đốc công nghệ của Facebook - Mike Schroepfer, đã giải thích một số công cụ AI mới nhất mà Facebook đang sử dụng để tìm nội dung có hại trước khi nó lan truyền. Chẳng hạn như một công cụ sử dụng dữ liệu trực tuyến từ hệ thống của Facebook để cải thiện, thay vì hơn một tập dữ liệu ngoại tuyến. Ông cho biết mục tiêu của mình là tiếp tục thúc đẩy công nghệ phát triển cho đến khi càng ít người xem nội dung phản cảm trên mạng xã hội càng tốt. Trước đây, Facebook từng bị chỉ trích vì phụ thuộc quá nhiều vào các human contractors. Về bản chất, công việc của họ đưa họ vào nội dung có thể gây kinh hoàng khi xem, cũng như việc AI của nó không bắt được các luồng trực tiếp bạo lực như vụ bắn súng ở nhà thờ Hồi giáo ở New Zealand vào tháng 3 năm 2019.

"Rõ ràng là chúng tôi sẽ không hài lòng cho đến khi chúng tôi hoàn thành," Schroepfer nói. "Và chúng tôi chưa hoàn thành."

Nhưng nội dung khó nhất để AI nắm bắt vẫn là nội dung dựa trên sự tinh tế và ngữ cảnh - những dấu hiệu mà máy tính chưa làm chủ được. Schroepfer cho biết Facebook hiện đang nỗ lực phát hiện các nội dung mang tính bạo lực và căm thù; công ty đã tung ra bộ dữ liệu có sẵn công khai liên quan đến nội dung như vậy vào mùa xuân với hy vọng giúp các nhà nghiên cứu cải thiện khả năng phát hiện.