CEO Microsoft đề xuất “phanh khẩn cấp” cho AI

Chủ tịch kiêm CEO Microsoft Satya Nadella hôm 10/10 kêu gọi xây dựng các hệ thống trí tuệ nhân tạo tiên tiến đi kèm cơ chế kiểm soát độc lập và “phanh khẩn cấp”, qua đó cho phép người được ủy quyền tạm dừng hoặc tắt mô hình khi cần thiết.

CEO Microsoft cảnh báo lỗ hổng lớn trong cuộc đua AI, yêu cầu cần "hãm phanh khẩn" trước sự phát triển của hệ thống công nghệ này

Trong bài đăng trên mạng xã hội X, ông Nadella cho rằng các mô hình phi xác định cần được đặt trong một thiết kế hệ thống có tính xác định cao, với sự giám sát của con người và quy trình vận hành đáng tin cậy. Theo lãnh đạo Microsoft, ngành công nghệ cũng cần thiết lập thêm tiêu chuẩn tại những khu vực mà khung quy định hiện hành chưa đáp ứng yêu cầu.

Ông nhận định việc coi các mô hình tiên tiến, dù sử dụng trọng số đóng hay mở, như một dạng rủi ro nội bộ có thể là nền tảng để xây dựng hệ thống kiểm soát nói trên.

Quan điểm của ông Nadella được đưa ra giữa lúc nhiều lãnh đạo và nhà nghiên cứu công nghệ hàng đầu, trong đó có nhà đồng sáng lập Microsoft Bill Gates, CEO Anthropic Dario Amodei, CEO OpenAI Sam Altman và CEO SpaceX Elon Musk, liên tục cảnh báo rằng các giao thức an toàn AI hiện chưa đầy đủ, trong khi công nghệ đang phát triển với tốc độ quá nhanh.

Tháng trước, một nhà nghiên cứu AI rời Anthropic đã cáo buộc công ty này cùng đối thủ chính OpenAI đang đặt mạng sống con người vào một canh bạc. Cùng ngày, một người phụ trách an toàn AI tại Anthropic ước tính xác suất công nghệ này có thể khiến toàn bộ loài người bị xóa sổ trong thập kỷ tới là hơn 10%.

Ở chiều ngược lại, Tổng thống Donald Trump nhiều lần bác bỏ kịch bản AI gây ra nguy cơ tuyệt chủng, đồng thời nhấn mạnh ngành công nghiệp Mỹ cần duy trì lợi thế trước Trung Quốc. Gần đây, ông Trump cũng thành lập một “Lực lượng AI” mới do Giám đốc Tình báo Quốc gia Jay Clayton đứng đầu, với mục tiêu thúc đẩy ngành công nghiệp và loại bỏ các tác nhân xấu.

Theo CEO Microsoft, các hệ thống AI cần được thiết kế dựa trên những nguyên tắc bảo đảm khả năng quan sát và giám sát xuyên suốt.

Các nguyên tắc này bao gồm đa dạng hóa mô hình; duy trì dấu vết hoạt động để con người có thể đọc và kiểm tra; kiểm thử hệ thống liên tục; thiết lập cơ chế kiểm soát độc lập và khả năng kiểm toán; bảo đảm năng lực ngăn chặn; cũng như công khai các sự cố phát sinh.

Khép lại thông điệp, ông Nadella cho rằng một hệ thống siêu trí tuệ đáng tin cậy không nằm ở việc con người đặt niềm tin tuyệt đối vào mô hình, mà ở khả năng thiết kế hệ thống theo hướng giảm tối đa mức độ phải phụ thuộc vào niềm tin đó.