CEO Anthropic đề xuất trao quyền chặn AI nguy hiểm cho chính phủ

Tổng giám đốc Anthropic, Dario Amodei, cho rằng chính phủ cần có thẩm quyền pháp lý để chặn hoặc răn đe việc triển khai các hệ thống trí tuệ nhân tạo (AI) bị đánh giá là nguy hiểm, theo bài luận ông công bố ngày 10/6.

CEO Anthropic đề xuất trao quyền chặn AI nguy hiểm cho chính phủ.

Đề xuất của Anthropic về quản lý công nghệ và ứng phó với xáo trộn kinh tế do AI gây ra được đánh giá là quyết liệt hơn đáng kể so với những phương án hiện được thảo luận nghiêm túc tại Washington D.C.

Tuy nhiên, lập trường này nhiều khả năng cũng làm dấy lên thêm tranh luận rằng Anthropic đang ủng hộ các quy định chặt chẽ hơn để củng cố lợi thế cạnh tranh, hoặc tận dụng các kịch bản rủi ro tương lai như một thông điệp chính sách lẫn truyền thông.

Trong bài luận mới cùng bộ khung quản trị AI tiên tiến được công bố kèm theo, Amodei lập luận rằng chính sách công cần thay đổi nhanh hơn để theo kịp tốc độ phát triển của AI. Ông cho rằng sắc lệnh hành pháp về AI của Tổng thống Mỹ Donald Trump cần đi xa hơn, theo hướng bắt buộc kiểm thử các mô hình tiên tiến đối với những rủi ro như an ninh mạng, vũ khí sinh học, mất kiểm soát hay năng lực tự động hóa hoạt động nghiên cứu và phát triển. Theo Amodei, nếu các hệ thống AI tiếp tục gia tăng mức độ rủi ro, khung pháp lý trong tương lai thậm chí có thể phải siết chặt hơn nữa.

Anthropic đồng thời đưa ra một khung chính sách kinh tế nhằm giảm tác động gián đoạn của AI, với các đề xuất như tài khoản vốn, bảo hiểm tiền lương, ưu đãi thuế và mở rộng mạng lưới an sinh xã hội. Trong bài viết, Amodei nhấn mạnh rằng AI đang tăng tốc rất nhanh, trong khi chính sách và đặc biệt là luật pháp lại thay đổi chậm hơn nhiều.

Sau khi Anthropic công bố mô hình Mythos, Amodei cho rằng các rủi ro sinh học cùng những rủi ro nghiêm trọng liên quan đến tính tự chủ của AI có thể xuất hiện trong thời gian không xa. Theo lập luận của ông, bộ máy hoạch định chính sách toàn cầu hiện vận hành chậm và thiếu linh hoạt, trong khi các rủi ro lẫn cơ hội do AI tạo ra có thể tăng tốc nhanh hơn dự kiến. Amodei cũng cho rằng các quy định minh bạch hiện hành không còn đủ sức đáp ứng bối cảnh mới, và kêu gọi một cơ chế quản lý AI mang tính ràng buộc hơn.

Ông so sánh AI với ô tô, máy bay hay dược phẩm – những lĩnh vực có ảnh hưởng lớn nhưng phải chịu chuẩn thử nghiệm và kiểm toán nghiêm ngặt trước khi đưa vào sử dụng rộng rãi. Theo cách tiếp cận này, việc phát hành mô hình AI tiên tiến cần có thể bị đình lại hoặc đảo ngược nếu hệ thống không đáp ứng ngưỡng an toàn đủ cao đối với công chúng.

Ở góc độ kinh tế, Amodei cảnh báo AI có thể gây ra những cú sốc lớn hơn đối với thị trường lao động so với các làn sóng công nghệ trước đây, thậm chí kéo dài hơn. Ông đề xuất cần cải thiện việc thu thập dữ liệu về mất việc làm liên quan đến AI, đồng thời xem xét các công cụ như bảo hiểm tiền lương, ưu đãi thuế để giữ chân lao động và xa hơn là thu nhập cơ bản phổ quát hoặc tài khoản vốn phổ quát.

Amodei cũng nhận định, làn sóng phản đối việc xây dựng các trung tâm dữ liệu phần nào phản ánh những lo ngại kinh tế rộng hơn của công chúng trước sự phát triển của AI.

Một điểm đáng chú ý khác là theo Amodei, các thiết chế quản lý hiện chưa được thiết kế để bắt kịp tốc độ xuất hiện của các đột phá mới do AI thúc đẩy. Từ đó, ông đề xuất cải cách ở những cơ quan như FDA nhằm rút ngắn thời gian phê duyệt các loại thuốc mới do AI hỗ trợ khám phá. Amodei cũng ủng hộ lệnh cấm sử dụng vũ khí hoàn toàn tự động trong phạm vi nội địa, đồng thời kêu gọi các quốc gia tiếp tục phối hợp trong quản trị AI.

Dù nhấn mạnh mặt trái và rủi ro, CEO Anthropic vẫn cho rằng công chúng cần nhìn thấy cả những lợi ích tiềm năng mà AI có thể mang lại. Theo ông, nhiều vấn đề xoay quanh AI - từ giảm thiểu mất việc làm, thử nghiệm mô hình trước khi phát hành, kiểm soát xuất khẩu chip cho tới bài toán năng lượng - đều có thể trở thành điểm đồng thuận chính sách nếu được tiếp cận theo hướng thực dụng.