Meta dùng cộng tác viên con người gọi điện thay trợ lý AI Muse, dấy lên lo ngại về quyền riêng tư

Meta đang thử nghiệm một lớp hỗ trợ đặc biệt cho Muse, trợ lý AI cá nhân mới của hãng: trong một số trường hợp, các cộng tác viên con người sẽ âm thầm xử lý cuộc gọi thay cho hệ thống. Thông tin được hé lộ qua các bài đăng nội bộ mà Reuters tiếp cận.

Chủ sở hữu của Facebook, Instagram và WhatsApp thông báo kế hoạch này với nhân viên vào tuần trước, ngay sau khi chính thức ra mắt tính năng gọi điện trên Muse.

Tính năng mới trên ứng dụng AI Muse của Meta gặp vấn đề, nghi do người lập trình trực tiếp can thiệp thay cho tính chất vốn có của các ứng dụng AI

Chỉ hai tuần sau khi trình làng, Muse đã vươn lên dẫn đầu bảng xếp hạng lượt tải ứng dụng tại Mỹ. Sản phẩm được thiết kế để thay người dùng thực hiện hàng loạt tác vụ như gửi email, mua sắm hay đặt vé du lịch.

Với tính năng mới, người dùng có thể yêu cầu Muse gọi tới các doanh nghiệp tại Mỹ và trao đổi với nhân viên ở đầu dây bên kia để đặt lịch cắt tóc, kiểm tra hàng tồn kho hoặc lấy báo giá từ nhiều nhà thầu.

Tuy nhiên, việc con người đứng sau xử lý cuộc gọi đã làm dấy lên lo ngại về quyền riêng tư. Theo các trao đổi nội bộ, một số nhân viên cảnh báo thông tin nhạy cảm có thể vô tình bị chuyển tới cộng tác viên tại các trung tâm cuộc gọi.

Một nhân viên cho rằng lợi ích của tính năng chưa đủ lớn để đánh đổi với rủi ro, bởi chỉ một sai sót nhỏ cũng có thể khiến những dữ liệu không cần thiết bị tiết lộ cho người thực hiện cuộc gọi.

Mối lo này càng gia tăng sau phản ánh của một nhân viên từng nhờ Muse gọi cho nhà cung cấp internet và truyền hình cáp để thương lượng hóa đơn. Bản ghi âm cuộc gọi cho thấy cộng tác viên phụ trách đã sử dụng lời lẽ mang tính phân biệt chủng tộc.

Phản hồi về vụ việc, một phó chủ tịch thuộc đơn vị Phòng thí nghiệm Siêu trí tuệ của Meta thừa nhận công ty đã sai khi thử nghiệm các cuộc gọi do nhân viên hợp đồng thực hiện mà không công bố đầy đủ, đồng thời cho biết hình thức này đã tạm thời bị dừng.

Dù vậy, Meta vẫn tiếp tục thử nghiệm khả năng gọi điện bằng AI. Theo vị lãnh đạo này, một số thử nghiệm cho thấy tỷ lệ hoàn thành tác vụ có thể đạt 95-98% khi có con người tham gia, cao hơn đáng kể so với các cuộc gọi hoàn toàn do AI thực hiện.

Bà cũng gửi lời xin lỗi tới nhân viên đã báo cáo sự việc và cam kết cộng tác viên liên quan sẽ không tiếp tục tham gia bất kỳ dự án nào của Meta.

Câu chuyện của Muse một lần nữa cho thấy phía sau lời hứa về AI tự động vẫn có thể là một lực lượng lao động con người, đặc biệt khi người nhận cuộc gọi chưa sẵn sàng tương tác với máy móc.

Mô hình này gợi lại thử nghiệm cách đây khoảng một thập kỷ của Facebook, tên gọi cũ của Meta, với trợ lý kỹ thuật số M trên Messenger. Các báo cáo truyền thông khi đó ước tính khoảng 70% nhiệm vụ của trợ lý ảo thực chất do con người hoàn thành.

Trước câu hỏi về kế hoạch phát triển Muse, đại diện Meta cho biết phản hồi của nhân viên nhìn chung rất tích cực. Theo hãng, thử nghiệm nội bộ nhằm thu thập ý kiến để hoàn thiện các biện pháp bảo vệ an toàn, quyền riêng tư và cải thiện sản phẩm trước khi phát hành rộng rãi.

Người phát ngôn Daniel Roberts cho biết Meta đang phối hợp với các nhà bán lẻ để tiếp tục hoàn thiện tính năng gọi điện và chỉ triển khai khi sản phẩm sẵn sàng, đi kèm cơ chế công khai phù hợp. Dữ liệu của Sensor Tower cho thấy Muse đã vượt 2,5 triệu lượt tải kể từ khi ra mắt.

Sức hút của sản phẩm cũng phản ánh lên thị trường chứng khoán. Kể từ thời điểm Muse ra mắt, cổ phiếu Meta đã tăng hơn 20%, giúp vốn hóa doanh nghiệp tăng thêm trên 200 tỷ USD và lên mức cao nhất trong hơn bảy tháng tại phiên đóng cửa gần nhất.

Dù vậy, trong phiên thứ Ba (22/9), mã này giảm nhẹ 0,6%.

Trong quá trình ra mắt, Meta đặc biệt nhấn mạnh yếu tố an toàn. Hãng cho biết mỗi trợ lý ảo sẽ vận hành trên một máy ảo riêng được bảo mật, tức máy tính chuyên dụng trên nền tảng đám mây giúp tách biệt từng phiên làm việc; các dữ liệu nhạy cảm như mật khẩu cũng được lưu trong kho riêng.

Chính vì vậy, các nhân viên phản đối cơ chế con người hỗ trợ cho rằng cách làm này có thể làm suy yếu một trong những điểm bán hàng quan trọng nhất của Muse. Theo các bài đăng nội bộ, Meta bắt đầu cho nhân viên thử tính năng gọi điện từ tháng 8, sau đó từng bước mở rộng tới người dùng trong những ngày tiếp theo.

Quá trình vận hành vẫn phát sinh vướng mắc. Một số người dùng phản ánh bên nhận cuộc gọi không muốn làm việc với AI; trong một trường hợp, nhân viên thử liên hệ công ty bảo hiểm nhưng liên tục bị cúp máy ngay khi hệ thống được nhận diện là trí tuệ nhân tạo.

Để xử lý tình trạng này, tuần trước Meta đã kích hoạt cơ chế hỗ trợ trực tiếp, còn được gọi là cuộc gọi do nhân viên thực hiện, cho một nửa lực lượng lao động nội bộ tham gia thử nghiệm.

Theo thông báo, Muse có thể chuyển yêu cầu sang một nhân viên đã qua đào tạo để người này trực tiếp thực hiện cuộc gọi và xử lý vấn đề.

Những nhân viên không muốn tham gia có thể chuyển sang một nhóm riêng dành cho người từ chối thử nghiệm, qua đó khép lại bước thăm dò nội bộ trước khi Meta quyết định có đưa tính năng này ra công chúng hay không.