Nhân viên Google chỉ trích công cụ chatbot AI do công ty phát triển

Các nhân viên của Goolge được cho là nhiều lần chỉ trích chatbot Bard trong tin nhắn nội bộ, thậm chí cầu xin công ty không tung ra nó.

Mới đây, Bloomberg đã trích dẫn một đoạn chat của 18 nhân viên đã, đang làm việc tại Google nhắn tin trao đổi về chatbot AI của công ty này. Trong đó, một người đã nhấn mạnh Bard thường đưa ra lời khuyên nguy hiểm cho người dùng như nào, từ chủ đề đơn giản như lặn biển đến phức tạp như cách hạ cánh máy bay.

"Bard thậm chí còn tệ hơn cả vô dụng", một người khác nói.

Công ty thậm chí đã "bỏ qua đánh giá rủi ro" do nhóm an toàn nội bộ đệ trình nói hệ thống chưa sẵn sàng để sử dụng rộng rãi. Google bắt đầu mở quyền truy cập sớm vào hệ thống chatbot thử nghiệm vào tháng 3.

Cuối năm 2020 và đầu năm 2021, công ty sa thải liên tiếp hai nhà nghiên cứu Timnit Gebru và Margaret Mitchell sau khi họ xuất bản nghiên cứu các lỗ hổng trong hệ thống ngôn ngữ AI làm nền tảng cho những chatbot như Bard. Với việc các hệ thống này đe dọa mô hình kinh doanh tìm kiếm, Google còn bị cho là bỏ qua các vấn đề về an toàn để tập trung vào kinh doanh. 

Trước đó, theo Business Insider, Google không có thời gian và nhân lực để đánh giá và cải thiện chất lượng những phản hồi mà Bard đưa ra nên đã giao nhiệm vụ cho các đối tác thực hiện. Theo bốn nguồn tin từ nhà thầu của Google cũng như tài liệu nội bộ, việc thử nghiệm Bard diễn ra vội vã do họ không có đủ thời gian để xác minh câu trả lời đúng từ chatbot AI.

Trao đổi với Bloomberg, Brian Gabriel, người phát ngôn của Google cho biết, đạo đức AI vẫn là ưu tiên hàng đầu của công ty. "Chúng tôi đang tiếp tục đầu tư vào các nhóm làm việc để áp dụng nguyên tắc AI vào công nghệ của chúng tôi", ông nói.

Google đang cố gắng đuổi kịp OpenAI, một công ty khởi nghiệp được Microsoft rót khoản vốn khổng lồ 10 tỷ USD, sau khi công ty này giới thiệu phần mềm ChatGPT vào tháng 11/2022 và gây nhiều tiếng vang. ChatGPT đã khiến người dùng kinh ngạc và trở thành tâm điểm chú ý tại Thung lũng Silicon, vì những câu trả lời được viết tốt và chính xác một cách đáng ngạc nhiên cho những câu hỏi đơn giản.

Google ra mắt Bard ngày 6/2. Tuy nhiên, ngay khi vừa trình làng, Alphabet Inc (công ty mẹ Google) đã mất 100 tỷ USD giá trị thị trường khi chatbot mới của công ty này là Bard chia sẻ thông tin không chính xác trong một video quảng cáo.

Phương Linh (t/h)