Đứng trước Quốc hội Mỹ ngày 5/10, cựu nhân viên Facebook Frances Haugen đã chỉ trích các thuật toán và thiết kế nền tảng của Facebook đã khiến nội dung thù địch và tin tức giả tràn lan trên mạng xã hội. Lời khai của Haugen có nhiều điểm tương đồng với kết quả điều tra Đánh giá Công nghệ MIT (Tạp chí của Viện Công nghệ Massachusetts) vào đầu năm nay.
Thuật toán Facebook hoạt động như thế nào?
Trên thực tế, Facebook có hàng trăm, hàng nghìn thuật toán để nhắm mục tiêu quảng cáo và xếp hạng nội dung. Một số thuật toán nhận ra tùy chọn của người dùng và đẩy các bài đăng có liên quan lên nguồn cấp dữ liệu của họ. Các thuật toán khác có nhiệm vụ phát hiện nội dung vi phạm các điều khoản. Gọi chung, chúng được gọi là các thuật toán học máy.
 |
|
Rất khó kiểm soát nội dung trên Facebook |
Không giống như các thuật toán truyền thống, các thuật toán học máy được đào tạo bằng cách phân tích dữ liệu đầu vào, sau đó nó có thể tự đưa ra quyết định. Ví dụ: một thuật toán được đào tạo bằng cách phân tích dữ liệu nhấp chuột vào quảng cáo sẽ phát hiện ra rằng phụ nữ xem quảng cáo quần yoga nhiều hơn nam giới. Cuối cùng, mô hình học máy đó sẽ phân phát nhiều quảng cáo tương tự hơn cho phụ nữ.
Nhờ lượng người dùng khổng lồ, thuật toán có thể phân loại các nhóm đối tượng rất chi tiết, chẳng hạn như “phụ nữ từ 25-34 tuổi thường thích các trang liên quan đến yoga”. Nhắm mục tiêu càng chi tiết, nhà quảng cáo càng dễ dàng tạo ra nhiều lợi nhuận hơn.
Tương tự, Facebook cũng có thể đào tạo các thuật toán để dự đoán loại bài đăng mà mỗi khán giả sẽ thích và sau đó xếp hạng chúng. Ví dụ, nếu bạn thích xem ảnh của thú cưng, những bài đăng như vậy sẽ được đẩy lên cao hơn trên News Feed của bạn.
| Kẻ lừa đảo cáo buộc Facebook “chọn lợi nhuận” mà không ngăn chặn nội dung độc hại |
Ai điều hành thuật toán Facebook?
Không có một bộ phận nào phụ trách toàn bộ hệ thống đánh giá nội dung trên Facebook, thay vào đó, mỗi nhóm kỹ sư có mục tiêu riêng, có nhóm xây dựng mô hình học máy để phát hiện nội dung xấu, có nhóm phụ trách việc chạy quảng cáo. ..
Công ty đã phát triển một bộ công cụ có tên FBLearner Flow cho phép các kỹ sư không có kinh nghiệm về học máy có thể phát triển bất kỳ mô hình nào họ muốn. Khi một mô hình không hiệu quả, mức độ tương tác không cao, họ sẽ loại bỏ ngay.
 |
|
Facebook ảnh hưởng tiêu cực đến thanh thiếu niên |
Một số nhân viên của Facebook cho rằng đây là một phần lý do tại sao Facebook không thể kiểm soát nội dung trên nền tảng này, bởi vì các nhóm kỹ sư có mục tiêu cạnh tranh riêng của họ và hệ thống đang trở nên phức tạp đến mức không ai có thể làm được. đủ để theo dõi từng thành phần riêng lẻ nữa.
Facebook có thực sự ảnh hưởng đến sức khỏe tinh thần của trẻ em?
Một nhóm nghiên cứu của Facebook từng phát hiện ra rằng những người dùng thường xuyên đăng những bài viết buồn bã, buồn bã sẽ tương tác với nhiều nội dung tiêu cực hơn và rơi vào vòng luẩn quẩn không lối thoát.
Nhóm này đề xuất dẫn đầu việc thay đổi thuật toán. Một người nói: “Câu hỏi đặt ra cho giới lãnh đạo là: Chúng ta có nên tối ưu hóa các tương tác khi chúng ta thấy ai đó ở trong tình trạng dễ bị tổn thương?”.
 |
|
Mark Zuckerberg bị buộc tội chỉ quan tâm đến lợi nhuận |
Nhưng đề xuất của họ đã bị bỏ qua. Mức lương của nhân viên Facebook dựa trên đánh giá hiệu suất cũng như các dự án họ hoàn thành, vì vậy họ nhanh chóng học cách bỏ qua những tiêu cực và tiếp tục làm theo chỉ đạo từ cấp trên.
\N
Tại sao xếp hạng nội dung lại là một nguồn gây thù hận?
Các mô hình học máy tối đa hóa mức độ tương tác, với các bài đăng gây tranh cãi, thông tin sai lệch và cực đoan thu hút nhiều lượt tương tác nhất.
Điều này làm gia tăng căng thẳng chính trị. Điển hình nhất là vụ việc tung tin giả trên Facebook về nhóm thiểu số Hồi giáo Rohingya ở Myanmar đã khiến xung đột tôn giáo ở nước này leo thang.
Facebook không chỉ dung túng cho các nhóm cực đoan mà còn quảng bá các nhóm này tới người dùng. 64% người tham gia các nhóm cực đoan sau khi sử dụng các đề xuất nhóm hoặc tính năng Khám phá của Facebook.
Vào năm 2017, giám đốc sản phẩm của Facebook, Chris Cox, đã thành lập một nhóm nhân viên để tìm hiểu xem liệu việc tối đa hóa sự tham gia của người dùng có góp phần vào sự phân cực chính trị hay không và nhận thấy rằng có mối tương quan tích cực. mối quan hệ giữa hai yếu tố. Họ đã đưa ra một số đề xuất để giải quyết vấn đề nhưng không được thực hiện, nhóm cuối cùng tan rã.
 |
|
Cựu nhân viên Frances Haugen |
Một nhà nghiên cứu AI, cựu nhân viên Facebook, cho biết đã thực hiện nhiều nghiên cứu tương tự nhưng kết quả chỉ có một: mô hình tối đa hóa tương tác làm tăng phân cực và mô hình học máy. khiến người dùng ngày càng có nhiều cái nhìn cực đoan hơn.
Cựu nhân viên Frances Haugen cho biết hiện tượng này còn tồi tệ hơn ở các khu vực không nói tiếng Anh, vì Facebook quá phụ thuộc vào các mô hình AI để tự động kiểm duyệt nội dung trên toàn cầu.
Khi chiến tranh nổ ra ở vùng Tigray (Ethiopia), nhà nghiên cứu đạo đức AI Timnit Gebru đã nhận thấy sự thất bại của Facebook trong việc kiểm soát thông tin sai lệch. Các cộng đồng nói những ngôn ngữ không được Thung lũng Silicon ưa thích thường chịu ảnh hưởng nặng nề nhất từ môi trường internet thù địch.
Đó không phải là kết thúc. Khi tin tức giả mạo, ngôn từ kích động thù địch không được kiểm duyệt, chúng sẽ được lấy làm dữ liệu đào tạo để xây dựng các mô hình máy học tiếp theo.
 |
|
Các cuộc biểu tình chống Facebook ở Jakarta, Indonesia năm 2018 |
Những gì Haugen phát biểu trước Quốc hội Mỹ củng cố lập luận của nhiều chuyên gia và nhân viên Facebook trong nhiều năm qua: nếu công ty không thay đổi thiết kế của các thuật toán, các vấn đề trên nền tảng sẽ không được giải quyết. xử lý.
Frances Haugen kêu gọi Facebook từ bỏ thuật toán xếp hạng nội dung và quay trở lại định dạng Bảng tin theo thứ tự thời gian.
Theo Ellery Roberts Biddle, giám đốc dự án Xếp hạng quyền kỹ thuật số, chuyên nghiên cứu các hệ thống xếp hạng trên mạng xã hội và tác động của chúng đối với quyền con người, các nhà lập pháp nên yêu cầu công ty minh bạch về cách thức hoạt động của các thuật toán, quảng cáo và hệ thống xếp hạng nội dung, mặc dù không dễ .
