Cựu chuyên gia an toàn cảnh báo OpenAI đang tăng tốc nhanh hơn khả năng kiểm soát

Việc một cựu nhân sự phụ trách an toàn của OpenAI rời công ty và công khai chỉ trích cách tiếp cận đối với an toàn AI đang làm nóng thêm tranh luận về tốc độ phát triển công nghệ. Theo người này, văn hóa ưu tiên tăng trưởng và liên tục đẩy nhanh tiến độ có thể khiến nguy cơ sai sót gia tăng.

Trong bài viết mang tiêu đề Tôi rời OpenAI vì văn hóa của nó đã hỏng, đăng trên The Atlantic hôm thứ Bảy (3/10), David Robinson cho rằng các doanh nghiệp AI, trong đó có OpenAI, chưa thể hiện mức độ thận trọng cần thiết. Theo ông, ngành công nghiệp này cần đặt trọng tâm lớn hơn vào chuyên môn và nghiên cứu an toàn trước khi tiếp tục phát triển những hệ thống có năng lực cao hơn.

Theo ông David Robinson, thời kỳ "xé nháp" của OpenAI đã qua, và những ứng dụng AI cần phải được kiểm soát bằng mức độ bảo vệ nghiêm ngặt

Robinson nhận định giai đoạn phát triển theo cách thử và sai không còn phù hợp. Ông cho rằng các hệ thống AI tiên tiến cần được kiểm soát bằng những lớp bảo vệ nghiêm ngặt, tương tự tiêu chuẩn đang áp dụng trong các ngành có mức độ rủi ro cao như năng lượng hạt nhân và hàng không.

Theo Robinson, OpenAI hiện phụ thuộc đáng kể vào phương thức mà công ty gọi là “triển khai lặp đi lặp lại”: đưa hệ thống ra sử dụng, sau đó bổ sung hoặc siết chặt các biện pháp bảo vệ khi vấn đề xuất hiện.

Cảnh báo này nối dài cuộc tranh luận trong ngành AI về việc các doanh nghiệp có đang tiến quá nhanh trong cuộc đua phát triển những hệ thống ngày càng mạnh hay không. OpenAI và đối thủ Anthropic từng chịu sự giám sát sau các sự cố liên quan đến việc cơ chế kiểm soát an toàn không vận hành như dự kiến hoặc hệ thống thử nghiệm cho kết quả ngoài mong đợi. Robinson cho biết ông đã làm việc tại OpenAI trong 3 năm rưỡi, tham gia xây dựng khuôn khổ chuẩn bị của công ty và giám sát báo cáo an toàn cho 12 đợt ra mắt mô hình tiên tiến. Từ kinh nghiệm này, ông đánh giá nhịp độ chạy đua từ lần ra mắt này sang lần ra mắt khác đang khiến công ty chưa đạt mức độ thận trọng cần thiết.

Phản hồi về vấn đề này, một phát ngôn viên OpenAI khẳng định công ty đang kiểm soát để năng lực của các mô hình không vượt quá khả năng quản lý và bảo mật an toàn. Theo đại diện doanh nghiệp, quá trình huấn luyện có thể được tạm dừng hoặc năng lực mô hình bị kìm lại khi xuất hiện yêu cầu giảm tốc độ.

Bên cạnh rủi ro trong quy trình triển khai, Robinson còn lưu ý rằng năng lực AI đang tiến bộ nhanh hơn mức độ hiểu biết của giới nghiên cứu về bài toán căn chỉnh — lĩnh vực nhằm bảo đảm hệ thống AI vận hành phù hợp với mục tiêu và các giá trị của con người. Khoảng cách này, theo lập luận của ông, càng làm nổi bật yêu cầu phải củng cố nền tảng an toàn trước khi tiếp tục mở rộng năng lực mô hình.