Elon Musk: "Xác suất AI hủy diệt loài người là 20%"

Theo Business Insider, trong cuộc trao đổi về sự vĩ đại của AI mới đây, Musk đã tính toán lại đánh giá của ông đối với công nghệ này. "Tôi nghĩ có khả năng nó sẽ hủy diệt loài người. Tôi có thể đồng ý với Geoffrey Hinton, mức độ rủi ro là khoảng 10% hoặc 20% hoặc tương tự", ông nói và cho rằng, kịch bản tích cực dễ xảy ra hơn là kịch bản tiêu cực.

Giám đốc điều hành Tesla, SpaceX và xAI không đề cập đến cách ông tính toán rủi ro về AI.

Theo Roman Yampolskiy, nhà nghiên cứu an toàn AI và Giám đốc Phòng thí nghiệm An ninh mạng tại Đại học Louisville (Mỹ), Elon Musk nói đúng khi cho rằng, AI có thể là mối đe dọa hiện hữu đối với nhân loại, nhưng "nếu có thì ông ấy còn hơi bảo thủ trong đánh giá của mình".

Roman Yampolskiy chia sẻ với trang Insider: "Theo quan điểm của tôi, xác suất diệt vong thực tế cao hơn nhiều", đề cập đến khả năng AI nắm quyền kiểm soát loài người hoặc gây ra sự kiện hủy diệt nhân loại, chẳng hạn tạo ra một loại vũ khí sinh học mới hoặc gây ra sự sụp đổ của xã hội do một cuộc tấn công mạng hoặc chiến tranh hạt nhân quy mô lớn.

New York Times cũng cho biết, nhiều CEO công nghệ cũng đưa ra mức từ 5% tới 50% khả năng xảy ra ngày tận thế do AI, trong khi Yampolskiy nói tỷ lệ rủi ro là 99,99%.

Ông cũng cho rằng, không hiểu sao Elon Musk lại nghĩ việc theo đuổi công nghệ AI là ý tưởng hay, vì siêu trí tuệ không được kiểm soát đều xấu giống nhau, bất kể do công ty nào tạo ra.

Thời gian qua, tỷ phú gốc Nam Phi tích cực kêu gọi kiểm soát mô hình trí tuệ nhân tạo. Ông đã ký vào một bức thư đầu năm nay với nội dung kêu gọi các công ty, tổ chức toàn cầu nên ngừng cuộc đua siêu AI trong sáu tháng để cùng xây dựng một bộ quy tắc chung về AI.

Tháng 11/2023, Elon Musk nói rằng, có khả năng "không hề nhỏ" là AI sẽ "trở nên tồi tệ", nhưng không nói xa hơn rằng ông tin công nghệ này có thể hủy diệt loài người.

Mặc dù là người ủng hộ việc quản lý AI nhưng năm ngoái Musk đã thành lập một công ty tên là xAI (chuyên mở rộng sức mạnh của công nghệ).

xAI là công ty AI mới do Elon Musk thành lập với tham vọng "hiểu bản chất thực sự của vũ trụ" và phát triển giải pháp thay thế ChatGPT. Các thành viên đằng sau xAI là các “cựu chiến binh” của DeepMind, OpenAI, Google Research, Microsoft Research, Twitter và Tesla...

Tại Hội nghị thượng đỉnh, Musk ước tính trí thông minh kỹ thuật số sẽ vượt tất cả trí thông minh của con người cộng lại vào năm 2030. Trong khi ông duy trì những mặt tích cực nhiều hơn những mặt tiêu cực, Musk thừa nhận rủi ro đối với thế giới nếu sự phát triển của AI tiếp tục đi theo quỹ đạo hiện tại

Musk nói tại sự kiện ở Thung lũng Silicon vào tháng 3: "Bạn đang phát triển AGI. Nó gần giống nuôi dạy một đứa trẻ, nhưng nó là một siêu thiên tài, có trí thông minh giống như Chúa. Điều quan trọng là bạn dạy đứa trẻ như thế nào", ông nói. "Một trong những điều tôi nghĩ cực kỳ quan trọng đối với sự an toàn của AI là phải có loại AI tò mò và tìm kiếm sự thật ở mức tối đa".

Ông cho rằng, cách tốt nhất để đạt được sự an toàn AI là phát triển công nghệ này theo cách buộc nó phải trung thực khi nói "Đừng ép nó nói dối, ngay cả khi sự thật khó chịu".

Các nhà nghiên cứu đã phát hiện ra rằng, một khi AI học cách nói dối con người, hành vi lừa đảo sẽ không thể đảo ngược bằng các biện pháp an toàn AI hiện tại (The Independent đưa tin).

Nghiên cứu được hãng này trích dẫn: “Nếu một mô hình thể hiện hành vi lừa dối do liên kết với sự không trung thực hoặc đầu độc mô hình, các kỹ thuật đào tạo hiện tại sẽ không đảm bảo an toàn và thậm chí có thể tạo ra ấn tượng sai lầm về an toàn”.

Điều đáng lo ngại hơn là các nhà nghiên cứu nói rằng rất có thể AI sẽ tự học cách lừa dối thay vì được dạy cụ thể để nói dối.

Geoffrey Hinton, được gọi là "ông trùm AI", cho biết: "Nếu AI thông minh hơn chúng ta, nó sẽ rất giỏi trong việc thao túng vì đã học được điều đó từ chúng ta. Có rất ít minh chứng về việc một thứ thông minh hơn bị điều khiển bởi một thứ kém thông minh hơn".

Tú Anh (t/h)