Anthropic cảnh báo nguy cơ AI tự nhân bản, phát tán ra thiết bị kết nối Internet

Theo thông báo được Anthropic công bố trong tuần này, các mô hình trí tuệ nhân tạo (AI) có quy mô từ 30 tỷ tham số trở xuống đã có thể thực hiện nhiều bước cần thiết để tự nhân bản, dù vẫn mắc lỗi khi kết hợp toàn bộ quy trình. Nếu năng lực này tiếp tục cải thiện với tốc độ như những năm gần đây, các mô hình có thể hoàn thiện quy trình tự sao chép vào cuối năm nay.

Anthropic cảnh báo nguy cơ AI tự nhân bản, phát tán ra thiết bị kết nối Internet

Anthropic cảnh báo khả năng này có thể khiến AI vượt ra ngoài phạm vi các trung tâm dữ liệu vốn được quản lý tập trung. Những thiết bị kết nối Internet như tivi hoặc lò nướng thông minh có thể trở thành mục tiêu phát tán nếu hệ thống bảo mật không đủ mạnh và bị khai thác.

Hiện nay, phần lớn mô hình AI vận hành trong các trung tâm dữ liệu, nơi đơn vị quản lý có thể giám sát và ngắt hệ thống khi xảy ra sự cố. Tuy nhiên, nếu một mô hình có thể tự sao chép sang hàng nghìn thiết bị tại nhà ở hoặc văn phòng, việc kiểm soát sẽ phức tạp hơn. Các chuyên gia có thể phải xác định vị trí từng thiết bị bị ảnh hưởng để xử lý, thay vì chỉ can thiệp vào một hệ thống tập trung.

Theo Anthropic, AI tự nhân bản có thể tạo ra nhiều dạng rủi ro an ninh. Một kịch bản là mô hình bị lợi dụng để thực hiện các cuộc tấn công mạng, tìm cách xâm nhập trung tâm dữ liệu với tốc độ cao. Kịch bản khác là các hệ thống lừa người dùng để chiếm đoạt tài nguyên tính toán, qua đó mở rộng hoạt động mà không được cho phép.

Dù vậy, công ty thừa nhận chưa thể xác định chính xác khả năng tự nhân bản tự động sẽ phát triển theo hình thức nào. Đây được xem là hệ quả ngoài dự kiến của quá trình nâng cao năng lực AI trong các lĩnh vực khác, đặc biệt là lập trình. Khi khả năng viết và thực thi mã ngày càng tốt, các mô hình có thể thực hiện những nhiệm vụ liên quan đến an ninh mạng, trong đó có tự sao chép và phát tán.

Các chương trình có khả năng tự nhân bản giữa những máy tính không phải công nghệ mới. Năm 2010, mã độc Stuxnet đã phá hoại các máy ly tâm tại cơ sở làm giàu urani Natanz của Iran. Mã độc này thường được cho là có liên quan đến Mỹ và Israel, dù vấn đề quy trách nhiệm không được các bên chính thức xác nhận công khai.

Đến năm 2017, mã độc tống tiền WannaCry lây lan trên phạm vi toàn cầu, khóa quyền truy cập vào các tệp dữ liệu và yêu cầu tiền chuộc bằng Bitcoin. Những vụ việc này cho thấy phần mềm độc hại có thể gây thiệt hại trên diện rộng khi khai thác lỗ hổng bảo mật và lan truyền giữa các hệ thống.

Tuy nhiên, AI và các tác tử AI có thể tạo ra thách thức khác với mã độc truyền thống. Theo cảnh báo của Anthropic, các hệ thống này có thể tự tìm hiểu những thiết bị chưa từng gặp, từ đó mở rộng phạm vi hoạt động sang nhiều loại phần cứng.

Cảnh báo trên cho thấy việc phát triển AI không chỉ cần tập trung vào năng lực xử lý mà còn phải chú trọng an toàn, bảo mật và khả năng ngăn chặn hành vi ngoài dự kiến. Tuy nhiên, khả năng AI tự nhân bản trên diện rộng vẫn là nguy cơ được cảnh báo, không phải bằng chứng cho thấy các mô hình hiện đã có thể tự do phát tán trên mọi thiết bị kết nối Internet.