Sự phát triển không giới hạn của trí tuệ nhân tạo (AI) đã đe dọa đến sự an toàn của nhân loại. AFP đưa tin, một bức thư ngỏ của các nhân viên OpenAI và Google DeepMind đã nêu lên mối lo ngại về rủi ro bảo mật AI, từ việc làm sâu sắc thêm sự bất bình đẳng hiện có, đến thao túng và lan truyền thông tin sai lệch, gây khả năng loài người tuyệt chủng nếu hệ thống AI vượt quá tầm kiểm soát.
Cụ thể, trong thư ngỏ công bố tuần này, nhóm gồm 13 nhân viên và cựu nhân viên của OpenAI, Google DeepMind nói, các công ty AI "đang nắm giữ lượng lớn thông tin không được công khai về năng lực và hạn chế của những hệ thống do các doanh nghiệp này phát triển".
Các nhà nghiên cứu đã phát hiện các ví dụ về các công cụ từ các công ty bao gồm OpenAI và Microsoft tạo ra những bức ảnh với thông tin sai lệch liên quan đến bầu cử, mặc dù có chính sách chống lại nội dung như vậy.
Thư cũng đề cập hàng loạt "hiểm họa nghiêm trọng" đi kèm với AI. Họ chỉ trích tình trạng thiếu biện pháp giám sát hiệu quả và kêu gọi tăng cường bảo vệ cho những người sẵn sàng lên tiếng, còn gọi là người thổi còi, trong ngành.
Nhóm nhân viên tin AI có thể mang đến những lợi ích chưa từng thấy cho xã hội và hiểm họa trên có thể được hạn chế nhờ sự tham gia của các nhà khoa học, giới quản lý và công chúng. Dù vậy, họ cho rằng các công ty AI có nhiều động lực để né tránh những biện pháp giám sát hiệu quả.
Bức thư cho biết, nhiều công ty AI hiểu rõ mối đe dọa và những biện pháp bảo vệ cần thiết, nhưng gần như không có nghĩa vụ phải chia sẻ thông tin cho các chính phủ và cộng đồng xã hội.
Bức thư ngỏ này là cảnh báo mới nhất nêu lên những lo ngại về an toàn liên quan đến công nghệ AI tạo sinh, có thể nhanh chóng sản xuất văn bản, hình ảnh và âm thanh giống như con người với chi phí cực thấp.
Nhóm các nhân viên này đã kêu gọi các công ty AI tạo điều kiện cho quá trình để nhân viên hiện tại và cựu nhân viên nêu lên các mối quan ngại liên quan đến rủi ro và không thực thi các thỏa thuận bảo mật nhằm ngăn cản việc phê bình.
Bức thư ngỏ cũng cho biết, thực tế này có nghĩa là nhân viên trong công ty là những người duy nhất có thể thông báo cho công chúng về mối nguy hại từ AI. Những người ký thư ngỏ kêu gọi ban hành luật tố cáo rộng rãi hơn để bảo vệ họ.
Theo New York Times, 4 nhân viên hiện tại của OpenAI đã ký đơn thỉnh nguyện nặc danh, vì sợ bị công ty trả thù.
Những người đồng ký tên còn bao gồm các nhà tiên phong nghiên cứu AI như Yoshua Bengio, Geoffrey Hinton và Stuart Russell. Họ thường được gọi là “bố già” của AI, từng chỉ trích việc mọi người thiếu sự chuẩn bị cho những rủi ro về AI.
Tú Anh (t/h)
