Project Lily của OpenAI gây lo ngại về quyền riêng tư ChatGPT

Nhân sự được trả tiền để đánh giá hội thoại ChatGPT

Theo điều tra của 404 Media, OpenAI được cho là đang triển khai Project Lily nhằm cải thiện chất lượng phản hồi của ChatGPT. Dự án huy động hàng trăm nhân sự đọc và đánh giá các cuộc trò chuyện thực tế giữa người dùng với chatbot, với mức thù lao hơn 50 USD mỗi giờ.

Project Lily của OpenAI gây lo ngại về quyền riêng tư ChatGPT

Các nhân sự này chấm điểm độ chính xác, tính tự nhiên và mức độ phù hợp của câu trả lời. Tiêu chí đánh giá còn yêu cầu hạn chế phản hồi máy móc, loại bỏ biểu tượng cảm xúc không cần thiết, tránh tâng bốc người dùng và hạn chế việc chatbot tự xưng là “tôi”.

Tuy nhiên, một số nhân sự cho biết quy định kiểm duyệt thường xuyên thay đổi và đôi khi thiếu nhất quán. Việc con người trực tiếp đọc hội thoại cũng đặt ra câu hỏi về phạm vi dữ liệu được tiếp cận và cách thông tin cá nhân được bảo vệ.

Nguy cơ lộ dữ liệu từ quá trình khử định danh

Theo quy trình bảo mật, hội thoại trước khi chuyển đến nhân sự đánh giá phải được làm sạch và khử định danh. Dù vậy, OpenAI được cho là thừa nhận với 404 Media rằng hệ thống tự động vẫn có thể bỏ sót dữ liệu nhạy cảm, đặc biệt trong các đoạn trò chuyện ngắn.

Rủi ro này đáng chú ý khi người dùng thường chia sẻ với ChatGPT các vấn đề riêng tư, tâm lý, công việc hoặc thông tin cá nhân. Một số tài liệu gửi đến người đánh giá còn có thể kèm “bản tóm tắt bộ nhớ người dùng”, bao gồm sở thích, câu hỏi cá nhân, bối cảnh cuộc sống và vị trí địa lý.

Người dùng có thể tắt tùy chọn cho phép sử dụng nội dung trò chuyện trong phần cài đặt. Tuy nhiên, thay đổi này không nhất thiết áp dụng ngược với dữ liệu đã được lưu trữ hoặc xử lý trước đó.

Sau báo cáo của 404 Media, OpenAI được cho là đã cập nhật trang FAQ, bổ sung hướng dẫn từ chối chia sẻ dữ liệu nhưng thay đổi nội dung liên quan đến hoạt động đánh giá thủ công.

Theo Tom’s Hardware, việc nhân sự xem xét hội thoại cũng xuất hiện tại một số nền tảng AI khác như Google Gemini và Anthropic. Điều này cho thấy các mô hình AI hiện đại vẫn cần con người tham gia kiểm tra và cải thiện chất lượng. Người dùng nên hạn chế chia sẻ thông tin nhạy cảm, kiểm tra cài đặt quyền riêng tư và đọc kỹ điều khoản sử dụng trước khi trò chuyện với chatbot.