CEO Google DeepMind: AI sắp vượt tầm kiểm soát?

Demis Hassabis, đồng sáng lập kiêm CEO Google DeepMind, đang kêu gọi Mỹ lập một cơ quan chuyên trách để giám sát AI. Theo ông, những mô hình AI tiên tiến nhất cần được rà soát kỹ trước khi tung ra thị trường, nhất là trong trường hợp công nghệ này có thể tạo ra rủi ro vượt ngoài tầm kiểm soát. Ý tưởng này được Hassabis đưa ra trong một bản đề xuất cá nhân công bố sáng thứ Ba (14/7), với tên gọi “Một khuôn khổ cho AI tiên tiến và bình minh của một kỷ nguyên mới”.

Ông Demis Hassabis đề xuất chính quyền Mỹ lập thiết chế nhằm kiểm soát các ứng dụng AI trước khả năng những ứng dụng này có nguy cơ vượt trội hơn con người

Trong cuộc trao đổi độc quyền với Axios, Hassabis cho rằng quản lý AI không thể tiếp tục dựa vào những phản ứng riêng lẻ sau mỗi sự cố. Thay vào đó, Mỹ cần một cơ chế bài bản hơn: được ngành công nghiệp tài trợ, do các chuyên gia kỹ thuật hàng đầu vận hành và chịu trách nhiệm trước chính phủ.

Theo ông, những rủi ro an ninh mạng liên quan đến AI hiện nay mới chỉ là các tín hiệu cảnh báo ban đầu. Trong khoảng 18 tháng tới, các năng lực tương tự, thậm chí nghiêm trọng hơn trong lĩnh vực sinh học hoặc hạt nhân, có thể xuất hiện trong những mô hình mã nguồn mở nằm ngoài tầm kiểm soát của các chính phủ.

Điều khiến Hassabis lo ngại là rủi ro không chỉ đến từ các mô hình mã nguồn mở. Những mô hình độc quyền ngày càng mạnh của các phòng thí nghiệm AI lớn cũng có thể đặt ra thách thức tương tự trong tương lai.

Trong đề xuất của mình, ông nhấn mạnh rằng những quyết định được đưa ra ở thời điểm hiện tại có thể ảnh hưởng sâu rộng đến cách nền văn minh bước vào giai đoạn tiếp theo.

Trước khi công khai đề xuất, Hassabis đã dành nhiều tháng vận động để tìm kiếm sự ủng hộ. Ông đã trao đổi với chính quyền Trump, lãnh đạo các phòng thí nghiệm AI khác và cả quan chức châu Âu. Theo Hassabis, phản hồi từ phía Washington nhìn chung khá tích cực, nhất là sau khi cách tiếp cận tương đối tự do trước đây bộc lộ nhiều hạn chế qua vụ bê bối Mythos. Với vị thế của một nhà khoa học có ảnh hưởng trong lĩnh vực AI, Hassabis cho biết nhiều lãnh đạo phòng thí nghiệm lớn cũng nhìn nhận đây là hướng đi cần thiết cho toàn ngành.

Dù vậy, lộ trình mà ông đưa ra không hề dễ dàng. Hassabis kỳ vọng cơ quan mới có thể đi vào hoạt động trong vài tháng tới, lý tưởng nhất là trước cuối năm nay.

Theo đề xuất, cơ quan tiêu chuẩn AI này sẽ được xây dựng theo mô hình tương tự FINRA, tổ chức giám sát tư nhân trong ngành tài chính Mỹ, do chính ngành tài trợ và chịu sự giám sát của SEC tại Phố Wall. Trong giai đoạn đầu, các phòng thí nghiệm AI hàng đầu sẽ tự nguyện gửi mô hình cho cơ quan này tối đa 30 ngày trước khi phát hành. Việc kiểm tra tập trung vào các nguy cơ an toàn, đặc biệt là năng lực có thể bị lạm dụng trong an ninh mạng, sinh học hoặc các hành vi đánh lừa hệ thống. Nếu cơ chế thử nghiệm cho thấy hiệu quả, Hassabis cho rằng việc chính thức hóa quy trình này có thể diễn ra nhanh. Khi đó, các mô hình AI thuộc nhóm tiên phong sẽ phải vượt qua khâu kiểm tra trước khi được triển khai tại thị trường Mỹ.

Hassabis hình dung cơ quan này sẽ có một hội đồng với đa số thành viên độc lập, gồm những chuyên gia công nghệ uy tín, người đoạt giải Turing, cùng đại diện từ ngành công nghiệp, chính phủ và cộng đồng mã nguồn mở. Các quy tắc sẽ áp dụng cho mọi mô hình được xếp vào nhóm “tiên phong”, bất kể đến từ quốc gia nào, là mã nguồn mở hay mô hình đóng. Cách phân loại này cũng sẽ được cập nhật thường xuyên khi năng lực AI thay đổi. Ở chiều ngược lại, Hassabis cho rằng việc được xếp vào nhóm “tiên phong” cũng có thể trở thành một dấu hiệu uy tín. Một mô hình được đưa vào diện kiểm thử đồng nghĩa với việc nó đủ quan trọng để được thị trường và giới quản lý chú ý.

Động lực lớn cho lời kêu gọi này đến từ vụ Mythos. Việc chính quyền Trump mạnh tay với các mô hình Mythos và Fable của Anthropic hồi tháng trước được Hassabis xem là tín hiệu cho thấy Washington cần một cơ chế ổn định hơn, thay vì phụ thuộc vào các chỉ thị mang tính tình huống. Khi đó, Anthropic chứng kiến các mô hình mạnh nhất của mình bị đóng băng chỉ sau một đêm bởi lệnh kiểm soát xuất khẩu. Công ty sau đó mất khoảng 2 tuần rưỡi để đàm phán việc phát hành, trong khi chưa có bộ quy tắc hay quy trình rõ ràng nào được thiết lập.

OpenAI cũng được cho là đã lựa chọn cách đi thận trọng hơn để tránh kịch bản tương tự. Khi ra mắt GPT-5.6, công ty đồng ý giới hạn mô hình này cho các đối tác đã được chính phủ kiểm duyệt, trước khi phát hành công khai sau quá trình đàm phán và thử nghiệm với Bộ Thương mại Mỹ.

Không chỉ Hassabis, Dario Amodei, CEO Anthropic, cũng từng kêu gọi một khuôn khổ quản lý có tính ràng buộc hơn, trong đó cơ quan giám sát có thể chặn các mô hình AI bị đánh giá là không an toàn.

Điểm chung đáng chú ý là các lãnh đạo đứng sau Gemini và Claude đều thừa nhận Washington cần có vai trò rõ ràng hơn trong quản lý AI. Khác biệt chủ yếu nằm ở việc cơ quan nào sẽ nắm quyền quyết định cuối cùng.

Đằng sau các đề xuất quản lý là nhận định rằng AI đang tiến rất nhanh. Hassabis tin trí tuệ nhân tạo tổng quát (AGI) — hệ thống có năng lực nhận thức tương đương con người — có thể chỉ còn cách vài năm nữa. Theo ông, thế giới đã bước vào giai đoạn đầu của một bước ngoặt công nghệ lớn.

Trong bản đề xuất, ông mô tả sự phát triển này như một cột mốc đặc biệt, khi con người đang tiến gần hơn tới khả năng tạo ra những hệ thống máy móc có thể xử lý thông tin và suy luận ở mức ngày càng giống con người.