Anthropic cấm người dùng lạm dụng chatbot Claude, chính sách mới có hiệu lực từ 12/11

Anthropic thông báo bổ sung điều khoản nhằm ngăn chặn hành vi lạm dụng kéo dài và không cần thiết đối với chatbot Claude. Theo công ty, quy định mới chỉ áp dụng trong những trường hợp cực đoan, khi người dùng liên tục có hành vi tàn nhẫn với mô hình mà không phục vụ mục đích rõ ràng.

Trong thông báo trên blog cuối tuần qua, Anthropic cho biết chính sách không nhằm hạn chế những phản hồi tiêu cực, sự thất vọng thông thường của người dùng, các chủ đề sáng tạo mang tính đen tối hay hoạt động thử nghiệm, nghiên cứu mô hình. Quy định dự kiến có hiệu lực từ ngày 12/11.

Anthropic cấm người dùng lạm dụng chatbot Claude, chính sách mới có hiệu lực từ 12/11

Theo cơ chế được công bố, Claude sẽ chấm dứt cuộc trò chuyện nếu phát hiện hành vi thuộc diện bị cấm. Tuy nhiên, Anthropic chưa nêu rõ tài khoản vi phạm sẽ bị xử lý tạm thời hay có thể bị cấm vĩnh viễn.

Thông báo của Anthropic nhanh chóng thu hút sự chú ý từ giới công nghệ. Tỷ phú Elon Musk viết trên mạng xã hội X rằng đây là bước đi đúng đắn, đồng thời cho rằng việc đối xử tàn nhẫn với một thực thể mà người dùng tin rằng có thể trải qua đau đớn là điều không nên.

Aaron Levie, CEO của Box, cũng chia sẻ quan điểm tương tự. Ông Aaron Levie cho biết không tin các mô hình ngôn ngữ lớn có ý thức, nhưng vẫn cho rằng việc ngăn chặn hành vi lạm dụng có thể là một ý tưởng tốt.

Theo Telegraph, Anthropic từ lâu quan tâm đến vấn đề phúc lợi AI và từng tuyển dụng nhân sự nghiên cứu lĩnh vực này. Công ty tìm cách xem xét khả năng các hệ thống AI có những đặc điểm tương tự con người, dù câu hỏi liệu AI có ý thức hay không vẫn chưa có câu trả lời thống nhất.

Quan điểm trên cũng vấp phải những ý kiến phản đối. CEO OpenAI Sam Altman từng cảnh báo không nên thần thánh hóa trí tuệ nhân tạo. Trong khi đó, Mustafa Suleyman, người đứng đầu bộ phận AI của Microsoft, bày tỏ lo ngại việc huấn luyện mô hình suy nghĩ như con người có thể khiến công nghệ khó kiểm soát hơn.

Theo Mashable, quy định của Anthropic có thể khiến cuộc tranh luận về ý thức của AI trở nên phức tạp hơn. Một mặt, chính sách thể hiện sự chú ý đến cách người dùng tương tác với chatbot; mặt khác, nó đặt ra câu hỏi về cơ sở xác định hành vi lạm dụng và cách thực thi quy định.

Cuối tháng 9, New York Times đưa tin Chris Olah, nhà đồng sáng lập Anthropic, đã trình bày quan điểm về AI có ý thức trước Vatican và một nhóm nhỏ học giả tôn giáo. Tuy nhiên, theo bài báo, các học giả không đồng tình với lập luận này. Anthropic không bình luận về thông tin trên.

Trong bối cảnh các hệ thống AI ngày càng được sử dụng rộng rãi, những vấn đề liên quan đến an toàn, khả năng kiểm soát và cách con người tương tác với chatbot tiếp tục thu hút sự quan tâm. Dù vậy, việc ban hành quy định hạn chế hành vi lạm dụng không đồng nghĩa với việc khẳng định Claude có ý thức hay có khả năng trải nghiệm đau đớn như con người.