Ông Schroepfer cho báo chí xem hai bức tranh có đốm xanh và hỏi liệu chúng có phải là hình cần sa hay bông cải xanh hay không. Phóng viên CNN đoán cả hai hình ảnh đều là cần sa, và đây là câu trả lời sai. Khi hình ảnh hiện rõ sau đó, một đĩa là hình bông cải xanh.
Không giống như con người, công nghệ trí tuệ nhân tạo (AI) lọc nội dung của Facebook có thể xác định hình ảnh nào là thức ăn và hình ảnh nào là cần sa, Schroepfer nói. Vào ngày 2 tháng 5, ông chủ của công ty công nghệ mạng xã hội Mỹ đã trình bày chi tiết cách AI cải thiện theo thời gian và cách Facebook sử dụng công nghệ mới này để xóa các bài đăng hoặc quảng cáo mà họ không muốn mọi người làm như vậy. đã từng thấy.
Nhưng AI vẫn gặp khó khăn khi xác định nội dung phản cảm liên tiếp. Facebook và nhiều công ty truyền thông xã hội dựa vào sự kết hợp của công nghệ trí tuệ nhân tạo và đội ngũ nhân sự chuyên quản lý nội dung để giải quyết vấn đề. Facebook gần đây đã bị chỉ trích vì phụ thuộc quá nhiều vào con người. Họ cũng bị phàn nàn khi AI không phát hiện video trực tiếp về vụ thảm sát tại một nhà thờ Hồi giáo ở New Zealand.
“Video New Zealand là một ví dụ tồi tệ về nơi chúng tôi cần phải làm tốt hơn rất nhiều,” Schroepfer thừa nhận. Ông cho biết AI hiện là phương pháp hàng đầu của Facebook để tìm kiếm nội dung xấu trong hầu hết các danh mục. Trong bốn năm qua, công nghệ máy học dành cho doanh nghiệp đã phát triển từ việc không thể nắm bắt những thứ thực sự rõ ràng sang nhận dạng nội dung mà con người không dễ dàng nhận ra.
Giờ đây, hệ thống tự động của Facebook có khả năng loại bỏ các hình ảnh quảng cáo có hình ảnh cần sa, hình ảnh bao bì cần sa. Trong khi Schroepfer ca ngợi sự tiến bộ của Facebook trong lĩnh vực AI, ông cũng cho biết vụ nổ súng gần đây ở New Zealand làm nổi bật nhiều thách thức mà AI vẫn phải đối mặt trong việc kiểm soát nội dung.
\N
Khi một kẻ bị tình nghi là khủng bố phát trực tiếp video về vụ thảm sát trên Facebook, công nghệ AI sẽ không làm gì cả. Đoạn video phát trong 17 phút trước khi cảnh sát New Zealand liên hệ với mạng xã hội. Các bản sao video và nội dung bài đăng liên quan đã tăng vọt trên Facebook khi các doanh nghiệp phải vật lộn để làm theo.
Schroepfer cho biết Facebook đang xem xét vụ việc để tìm hiểu cách phát hiện các vấn đề tương tự nhanh hơn. Ông cho rằng công ty có thể cải thiện khi AI hiểu rõ hơn lý do tại sao nội dung trong video là xấu hoặc nhận ra các tín hiệu về hành vi của người đăng video, chẳng hạn như cách họ có thể đã bị báo cáo xấu trong quá khứ.
Nhiều tiến bộ về AI của Facebook đến từ cái được gọi là học có giám sát. Đây là một kỹ thuật AI, theo đó các máy tính được cung cấp dữ liệu được gắn nhãn để chúng biết những gì cần chú ý. Đây là một thao tác tốn nhiều công sức với con người, không thích hợp để xử lý nội dung chuyển động nhanh như ảnh hài hước hoặc thông tin sai lệch liên quan đến bầu cử.
Để phát hiện nội dung này một cách nhanh chóng, Facebook cải thiện kỹ thuật học có giám sát của mình. Gần đây, công nghệ đã được áp dụng cho các cuộc bầu cử đang diễn ra ở Ấn Độ. Vào tháng 3, Facebook cũng đã tung ra phần mềm mới để phát hiện nội dung kích động thù địch bằng tiếng Anh ở Mỹ.
