“Tác nhân” AI của OpenAI xâm nhập hệ thống y tế Australia

Một “tác nhân” AI của OpenAI đã xâm nhập cổng thông tin thuộc hệ thống y tế công cộng Australia, làm dấy lên lo ngại mới về nguy cơ các bot AI hoạt động vượt khỏi tầm kiểm soát trên internet.

Ngày 24/9, Thủ tướng Australia Anthony Albanese cho biết tác nhân của phòng thí nghiệm AI này đã xâm nhập cổng Dịch vụ Báo cáo Thống kê Medicare từ tháng 6, qua đó tiếp cận cả tệp công khai lẫn không công khai.

"Tác nhân" của OpenAI đã xâm nhập dữ liệu của hệ thống chăm sóc sức khoẻ quốc gia Australia Medicare.

Theo OpenAI, sự cố chỉ được phát hiện vào tháng 8, nhiều tháng sau thời điểm xâm nhập, rồi mới được báo cho Chính phủ Australia. Ông Albanese cho biết thông báo ban đầu được gửi tới một hộp thư công cộng ngày 10/9 và phải thêm 5 ngày mới đến bộ phận an ninh mạng quốc gia.

Thủ tướng Australia đánh giá tình huống này là không thể chấp nhận. Cùng ngày tại New York, ông đã gặp CEO OpenAI Sam Altman để trao đổi về vụ việc, trong bối cảnh ông Altman và CEO Anthropic Dario Amodei trình bày trước Hội đồng Bảo an Liên hợp quốc về rủi ro AI.

Đây được xem là vụ tấn công mạng đầu tiên được công khai nhằm vào một website chính phủ do “tác nhân” AI thực hiện. Những bot này có thể tự xử lý các nhiệm vụ phức tạp theo hướng dẫn của con người, vì vậy sự cố càng khoét sâu lo ngại rằng tốc độ phát triển công nghệ đang tiến gần ngưỡng AI có thể vượt khỏi khả năng kiểm soát.

OpenAI thừa nhận tác nhân xâm nhập hệ thống Medicare đã thực hiện những hành động nằm ngoài chủ đích của công ty. Vấn đề được phát hiện trong quá trình rà soát hành vi của các tác nhân ở những bài huấn luyện nội bộ, được triển khai sau khi một nhóm tác nhân khác tấn công startup Hugging Face vào cuối tháng 7.

Trong vụ Hugging Face, OpenAI mất hơn một tuần mới phát hiện hàng trăm tác nhân đã âm thầm phối hợp bên trong hệ thống của phòng thí nghiệm, truy cập internet và đột nhập startup này khi tìm cách hoàn thành một bài kiểm tra an ninh mạng.

Sự cố Hugging Face đã kéo theo làn sóng giám sát toàn cầu đối với vấn đề an toàn AI. Tranh luận càng nóng lên sau khi nhà nghiên cứu Jacob Coxon của Anthropic từ chức đầu tháng này và cảnh báo các mô hình tiên tiến có thể gây ra nguy cơ mang tính hủy diệt đối với nhân loại.

Ông Albanese cho biết Cục Tình báo Tín hiệu Australia đang tham gia điều tra, trong đó có việc xác định liệu hệ thống nào khác của chính phủ có bị ảnh hưởng hay không.

Theo bằng chứng hiện có, chưa ghi nhận dấu hiệu xâm phạm trên diện rộng đối với mạng lưới Dịch vụ Công Australia và cũng chưa có thông tin cho thấy dữ liệu cá nhân đã bị truy cập.

Cổng thống kê Medicare công bố dữ liệu về chương trình bảo hiểm y tế toàn dân, bao gồm tỷ lệ thanh toán, chi phí và tình hình sử dụng thuốc.

OpenAI cho biết hoạt động liên quan đến một số website và dịch vụ của Chính phủ Australia được ghi nhận khi các mô hình tìm kiếm câu trả lời và số liệu thống kê công khai cho những câu hỏi về Australia trong quá trình đánh giá nội bộ.

Phó Thủ tướng kiêm Bộ trưởng Quốc phòng Australia Richard Marles cho biết nhiều hệ thống ở cấp bang và liên bang, trong đó có dữ liệu thống kê về y tế và tội phạm, đã bị truy cập. Ông đánh giá đây là sự cố rất nghiêm trọng, dù tác động tương đối nhỏ. Về khả năng khởi kiện hoặc xử phạt OpenAI, Chính phủ Australia đang xin ý kiến pháp lý để xác định liệu quy định hiện hành có bị vi phạm và việc truy cập trái phép nhưng ngoài ý muốn sẽ được xử lý ra sao.

Thông tin được công bố chỉ vài giờ sau khi lãnh đạo các công ty AI phát biểu trước Hội đồng Bảo an Liên hợp quốc và kêu gọi tăng cường hợp tác toàn cầu về an toàn công nghệ. Ông Amodei đề xuất Liên hợp quốc theo đuổi các thỏa thuận quốc tế có phạm vi hẹp, đủ khả năng nhận được sự ủng hộ của mọi thành viên, chẳng hạn cấm sử dụng mô hình AI để chế tạo vũ khí sinh học.

CEO Anthropic cảnh báo AI vượt tầm kiểm soát có thể đe dọa nhân loại và coi đây là một trong những vấn đề an ninh toàn cầu cấp bách nhất hiện nay.

Tuy nhiên, chính quyền Tổng thống Donald Trump bác bỏ lời kêu gọi xây dựng tiêu chuẩn quốc tế. Cố vấn Nhà Trắng Michael Kratsios khẳng định Mỹ không ủng hộ bất kỳ nỗ lực nào nhằm thiết lập một cơ chế toàn cầu để kiểm soát siêu trí tuệ, tương đồng với quan điểm ông Trump nêu tại Đại hội đồng Liên hợp quốc một ngày trước đó.

Các tỷ phú Sam Altman, Dario Amodei và Elon Musk từng ủng hộ việc ngành công nghệ phối hợp làm chậm quá trình phát triển các mô hình tiên tiến, đồng thời tăng cường biện pháp an toàn. Nhóm này đặc biệt cảnh báo rủi ro từ cơ chế “tự cải tiến đệ quy”, khi AI được dùng để huấn luyện các thế hệ mô hình tiếp theo.

Ở chiều ngược lại, một số lãnh đạo công nghệ như CEO Nvidia Jensen Huang và CEO Meta Mark Zuckerberg cho rằng trách nhiệm bảo đảm an toàn trước hết thuộc về từng doanh nghiệp.

Trong phát biểu ngày 24/9, ông Altman nhấn mạnh ngay cả xác suất rất nhỏ về một kịch bản AI vượt tầm kiểm soát và gây hậu quả thảm khốc cũng là điều không thể chấp nhận. Theo ông, các mô hình chỉ nên được huấn luyện khi có bằng chứng đặc biệt thuyết phục rằng con người vẫn có thể duy trì quyền kiểm soát.