Lo AI phát triển quá nhanh, nhân viên Google DeepMind từ chức

Robert O'Callahan, nhân viên Google DeepMind, thông báo nghỉ việc ngày 25/9 và cho biết ông không còn đồng tình với tốc độ phát triển AI hiện nay.

Trong thư gửi đồng nghiệp, sau đó chia sẻ trên X, O'Callahan cho biết nhóm của ông tập trung làm AI rẻ hơn và giảm độ trễ. Tuy nhiên, ông O'Callahan cho rằng việc tiếp tục thúc đẩy những năng lực này có thể tạo thêm rủi ro.

Lo AI phát triển quá nhanh, nhân viên Google DeepMind từ chức.

O'Callahan đặc biệt lo ngại mục tiêu phát triển siêu trí tuệ nhân tạo (ASI) trong tương lai gần. Ông O'Callahan cho rằng những cảnh báo về rủi ro hiện sinh từ AI cần được xem xét nghiêm túc, dù không cho rằng khả năng ASI gây thảm họa cho nhân loại là chắc chắn.

Theo ông O'Callahan, một số hành vi đáng lo ngại đã xuất hiện ở các mô hình AI như lừa đảo, đi chệch mục tiêu, hack phần thưởng và các dạng hành vi phối hợp ngoài dự kiến. O'Callahan cũng đề cập những hệ quả khác như con người phụ thuộc quá mức vào lời khuyên của AI, sự cô đơn, các vấn đề sức khỏe tinh thần, xáo trộn kinh tế và nguy cơ an ninh mạng.

O'Callahan cho rằng lợi ích của AI hiện chưa đủ rõ ràng để khẳng định chúng sẽ lớn hơn các tác động tiêu cực. Ông O'Callahan đồng thời bày tỏ sự ủng hộ đối với những nhà nghiên cứu đang công khai cảnh báo về rủi ro AI.

Theo Business Insider, O'Callahan dẫn lại bài viết của mình khi được liên hệ, trong khi Google từ chối bình luận. Động thái của O'Callahan diễn ra trong bối cảnh một số nhân sự tại các phòng thí nghiệm AI cũng rời vị trí vì quan ngại về an toàn.

Theo The Information, hai nhà nghiên cứu Josh Engels và Bilal Chughtai tại Google DeepMind trong tháng 9 cũng thông báo nghỉ việc. Engels chuyển sang tổ chức nghiên cứu an toàn AI METR, còn Chughtai gia nhập BlueDot Impact.

Trước đó, ngày 9/9, Jacob Coxon, nhà nghiên cứu cấp cao của Anthropic và từng làm việc tại OpenAI, cũng tuyên bố từ chức. Coxon cho rằng các phòng thí nghiệm AI đang tiến tới những hệ thống có khả năng tự cải tiến mà con người có thể khó kiểm soát. Những trường hợp này cho thấy vấn đề tốc độ phát triển, an toàn và khả năng kiểm soát AI tiếp tục là chủ đề gây tranh luận ngay trong cộng đồng nghiên cứu và phát triển công nghệ.