Facebook chưa bao giờ che giấu ý định sử dụng AI trong vai trò quản lý nhiều hơn trên nền tảng của họ. Việc kiểm soát thông tin và nội dung đăng tải trên nền tảng này có thể hiểu đơn giản qua các bước sau: thứ nhất, bài đăng bị nghi ngờ vi phạm quy định của công ty (spam, sử dụng ngôn từ kích động thù địch). , kích động bạo lực…) sẽ được đánh dấu, sau đó người phụ trách hoặc hệ thống máy học sẽ thực hiện lọc phân loại. Một số vi phạm rõ ràng sẽ được xử lý tự động (xóa bài viết, khóa tài khoản), một số khác sẽ nằm trong danh sách chờ các chuyên gia xem xét lại.
Mạng xã hội lớn nhất thế giới có khoảng 15.000 nhân viên chuyên kiểm soát nội dung trên toàn cầu, làm việc để phân loại các bài đăng bị gắn cờ và đưa ra quyết định xem có vi phạm quy định của công ty hay không. kiểm tra thủ công. Nhưng họ luôn bị chỉ trích vì không thể hỗ trợ kịp thời cho mọi trường hợp khiến nhiều người lên báo cảm thấy bị tổn thương. Rõ ràng, con người không đủ để kiểm soát lượng thông tin khổng lồ được đăng tải mỗi ngày trên nền tảng này.
Do đó, công ty tuyên bố sẽ làm mọi thứ để đảm bảo việc kiểm duyệt ưu tiên, các bài viết quan trọng được nhìn thấy trước, với sự hỗ trợ của máy học. Bài đăng càng có nhiều tương tác (theo lượt xem, lượt chia sẻ) thì hệ thống càng dễ được nhắm mục tiêu.
Giám đốc công nghệ của Facebook, Mike Schroepfer, cho biết: “Những nỗ lực tập trung vào AI của Facebook đang giúp triển khai học máy để bảo vệ mọi người khỏi nội dung có hại. Với hàng tỷ người sử dụng nền tảng của chúng tôi, chúng tôi phải dựa vào AI để kiểm soát thông tin và tự động đưa ra quyết định khi có thể. Mục tiêu là khoanh vùng nhanh chóng và chính xác nội dung thù địch, thông tin sai lệch và các hình thức vi phạm tiêu chuẩn khác của Facebook, bất kể nguồn nội dung hay ngôn ngữ, cộng đồng trên thế giới “.
Vào cuối năm 2020, báo cáo của công ty cho biết AI đã phát hiện 94,7% trường hợp có lời nói căm thù và xóa nó khỏi nền tảng. Con số này tăng đáng kể so với năm 2019 (80,5%) và có thể coi là đột phá so với 24% của năm 2017. Có hơn 96% nội dung thù địch liên quan đến tổ chức, nhóm đã được hệ thống phát hiện mà không cần sự hỗ trợ của con người.
Trí tuệ nhân tạo giúp giảm thiểu công việc của con người trong mạng xã hội lớn nhất thế giới Ảnh: Facebook |
Nhưng dù sao đó cũng chỉ là một cỗ máy, AI vẫn gặp khó khăn khi xử lý một số nội dung và đưa ra quyết định xem nó có vi phạm tiêu chuẩn cộng đồng hay không. Hệ thống sẽ khó xác định được ẩn ý trong những bức tranh bị viết đè lên, hoặc vẫn không hiểu được những từ mỉa mai hay tiếng lóng. AI của Facebook cũng nhiều lần bị “tố” trong trường hợp khiến người đăng bài kêu ca, hoặc tự động chuyển đổi định dạng bài đăng.
\N
Trên thực tế, Facebook đang sử dụng AI theo xu hướng “quét tốt hơn bỏ sót”. Đã có nhiều đợt truy quét mạnh khiến nhiều tài khoản hoặc nhóm bị đóng cửa vĩnh viễn, bất chấp những lời phàn nàn của người dùng.
Tại Việt Nam, hàng năm thường diễn ra không dưới một đợt truy quét hàng loạt với số lượng tài khoản bị khóa lên tới hàng nghìn, thậm chí hàng triệu. Nhưng trong số này, cũng có nhiều trường hợp bị quét nhầm và có trường hợp không rõ nguyên nhân khiến tài khoản bị đưa vào danh sách đen. Vào tháng 10/2020, Facebook bị thanh trừng trên diện rộng khiến nhiều nhóm cộng đồng tại Việt Nam “cao chạy xa bay”, kể cả những nhóm có hàng triệu thành viên hoặc thành lập lâu năm, hoạt động ổn định, yên bình qua các đợt truy quét. trước. Lý do được đưa ra khá chung chung, chỉ nêu “vi phạm tiêu chuẩn cộng đồng”, còn cụ thể điều khoản nào thì công ty không cung cấp.
|
Câu trả lời của luật sư: Việc phát tán clip nhạy cảm bị xử lý như thế nào? |
Anh Xuân Thành (Q.10, TP.HCM), một người dùng Facebook đã vướng phải trường hợp bị khóa mạng xã hội này không rõ lý do. “Tôi đã bị khóa tài khoản 6, 7 lần chỉ trong một tháng, mỗi đơn khiếu nại và chờ giải quyết kéo dài khoảng 24 giờ. Facebook có hỗ trợ mở nhưng khóa nhanh sau đó mà không rõ lý do “, anh chia sẻ. Là người am hiểu về công nghệ cũng như các nền tảng mạng xã hội, Thanh cho rằng đây là lỗi quét nhầm nội dung của AI Facebook. .
Một số chuyên gia về dịch vụ của Facebook cũng khẳng định, thời gian qua mạng xã hội này đã chỉnh sửa, cải tiến AI nên phát sinh nhiều lỗi. Một ví dụ điển hình là hệ thống tự động chuyển đổi định dạng bài đăng thông thường của người dùng thành bài đăng mua hoặc bán, được đưa lên Thị trường. Điều này làm cho nội dung khó hiển thị trong Nguồn cấp tin tức của bạn bè họ. Một chuyên gia nhận định: “Có thể bài đăng bị vướng một hoặc nhiều từ khóa khiến AI hiểu nhầm là mua bán nội dung”.
