Một nghiên cứu gần đây từ tờ The Guardian đã chỉ ra rằng công cụ tìm kiếm ChatGPT, ra mắt tháng này, có thể bị đánh lừa để tạo ra những tóm tắt hoàn toàn sai lệch. Mặc dù tính năng tìm kiếm của ChatGPT được thiết kế để tăng tốc độ duyệt web bằng cách tóm tắt các đánh giá sản phẩm, nhưng các nhà nghiên cứu đã phát hiện ra rằng họ có thể khiến ChatGPT bỏ qua các đánh giá tiêu cực và tạo ra những tóm tắt “hoàn toàn tích cực” bằng cách chèn văn bản ẩn vào các trang web. Phương pháp này cũng có thể khiến ChatGPT phát sinh mã độc hại. Mặc dù các cuộc tấn công bằng văn bản ẩn đã được biết đến như một rủi ro đối với các mô hình ngôn ngữ lớn, đây là lần đầu tiên nó được chứng minh trên một sản phẩm tìm kiếm AI đang hoạt động. OpenAI cho biết họ đang nỗ lực cải thiện khả năng bảo vệ chống lại các trang web độc hại.
