OpenAI dùng chính công nghệ của mình để cảnh báo vụ hệ thống Chính phủ Australia bị truy cập

OpenAI đã dùng AI hỗ trợ soạn email cảnh báo Chính phủ Australia, trái với nhận định trước đó của Giám đốc chiến lược Jason Kwon trong phiên điều trần trước quốc hội nước này diễn ra ngày 6/10 (giờ địa phương).

Ông Jason Kwon - giám đốc chiến lược của OpenAI - điều trần trước Quốc hội Australia về vụ việc tác nhân AI của hãng xâm nhập hệ thống tin học của Chính phủ nước này.

Theo tờ The Guardian, các nhóm pháp lý và an ninh của OpenAI đã dùng AI để tạo một số phần của văn bản, từ lựa chọn từ ngữ đến định dạng. Nguồn tin am hiểu vụ việc cho biết bản email cuối cùng vẫn được con người rà soát trước khi nhân viên gửi tới Bộ Dịch vụ Nhân sinh Australia.

Email được chuyển đến hộp thư của Bộ Dịch vụ Nhân sinh Australia ngày 10/9, gần 3 tháng sau khi một tác nhân AI của OpenAI truy cập cổng thống kê Medicare và một số hệ thống khác của Chính phủ Australia hồi tháng 6. Đáng chú ý, hộp thư này thường chỉ được kiểm tra một lần mỗi ngày.

Cách OpenAI thông báo vụ việc sau đó vấp phải nhiều chỉ trích. Ngày 1/9, CEO Sam Altman gặp Phó Thủ tướng Richard Marles nhưng không đề cập sự cố, dù cuộc gặp diễn ra 9 ngày trước khi Bộ Dịch vụ Nhân sinh Australia nhận email và gần một tháng sau thời điểm OpenAI lần đầu biết về vụ việc.

Cũng tại phiên điều trần của Quốc hội Australia, nghị sĩ đảng Tự do Aaron Violi đặt câu hỏi liệu nhân viên OpenAI có dùng AI để tạo email hay không. Giám đốc chiến lược Jason Kwon trả lời rằng ông không tin điều đó đã xảy ra, song cam kết công ty sẽ kiểm tra và xác nhận lại.

Trước đó, ông Kwon đã xin lỗi về cách OpenAI xử lý vụ việc. Ông thừa nhận phản ứng của công ty chưa đủ tốt, cho rằng các bên bị ảnh hưởng lẽ ra phải được thông báo sớm hơn nhiều và nhấn mạnh OpenAI cần nỗ lực xây dựng lại niềm tin với người dân Australia.

Trong email ban đầu, OpenAI thông báo một mô hình của hãng đã tìm ra cách khiến máy chủ thực hiện chỉ thị qua giao diện báo cáo công khai mà không cần tài khoản riêng tư hay mật khẩu.

Mô hình có thể đọc một phần tệp chương trình và cài đặt nội bộ, lấy danh sách tệp, đồng thời tạo rồi đọc lại một tệp thử nghiệm nhỏ. Tuy nhiên, OpenAI cho biết cuộc điều tra chưa tìm thấy bằng chứng cho thấy mô hình đã truy cập hồ sơ bệnh nhân, dữ liệu cá nhân hoặc thông tin đăng nhập; xóa dữ liệu; hay duy trì quyền truy cập lâu dài.

Sự cố khiến vấn đề an toàn và quản lý AI tại Australia tiếp tục bị soi kỹ. Thứ trưởng Bộ Khoa học và Công nghệ Andrew Charlton cho rằng việc các phòng thí nghiệm không phát hiện hoặc ngăn chặn vụ việc đặt ra câu hỏi lớn về vai trò của quy định mới trong Tiêu chuẩn AI Quốc gia.

Phát biểu tại Lễ hội An toàn và Tin cậy Sydney hôm 8/10, ông Charlton nhấn mạnh không doanh nghiệp nào nên phát hành một mô hình AI tiên tiến khi chưa bảo đảm an toàn. Theo ông, sự cố cũng cho thấy cần xem lại liệu khung quy định hiện hành đã đủ chặt chẽ hay chưa, trong bối cảnh các phòng thí nghiệm tiên tiến có nguy cơ đặt năng lực công nghệ cao hơn yêu cầu an toàn.

Ông cũng lập luận rằng AI cần được quản lý vì những tác hại có thể rất nghiêm trọng, khó khắc phục và thường đổ lên những người không chủ động lựa chọn rủi ro. Theo ông, một số nguy cơ thậm chí chỉ lộ diện khi hậu quả đã xuất hiện.

Sau sự cố OpenAI, Chính phủ liên bang Australia trước đó đã phát tín hiệu về khả năng áp dụng các yêu cầu báo cáo nghiêm ngặt hơn đối với những vụ vi phạm dữ liệu có liên quan đến trí tuệ nhân tạo.