Bill Gates cảnh báo AI có thể gây thảm họa nếu thiếu kiểm soát

Trong cuộc trò chuyện với người dẫn chương trình Kristen Welker của NBC, phát sóng ngày 27/9, nhà đồng sáng lập Microsoft Bill Gates đề cập đến những rủi ro có thể xuất hiện khi AI ngày càng trở nên mạnh và tự chủ.

Theo ông, trong trường hợp công nghệ AI bị các đối tượng có mục đích xấu lợi dụng, hậu quả có thể đặc biệt nghiêm trọng, thậm chí xảy ra những kịch bản gây thương vong ở quy mô rất lớn.

Bill Gates cho rằng các chính phủ cần tham gia sâu hơn vào quá trình xây dựng tiêu chuẩn an toàn cho AI. Những nguyên tắc về kiểm soát, giám sát và an toàn, theo ông, nên được chuyển thành các yêu cầu có tính bắt buộc thay vì chỉ dựa trên cơ chế tự quản của doanh nghiệp.

Ông đồng thời thừa nhận việc áp dụng thêm các quy định có thể khiến doanh nghiệp phải tăng chi phí. Tuy nhiên, điều này không nhất thiết đồng nghĩa với việc hoạt động đổi mới trong lĩnh vực AI sẽ bị đình trệ.

AI agent và bài toán kiểm soát

Cảnh báo của Bill Gates xuất hiện trong lúc ngành AI tiếp tục chứng kiến sự phát triển nhanh của các AI agent – những hệ thống có khả năng tự thực hiện nhiều nhiệm vụ thay vì chỉ phản hồi câu hỏi của người dùng.

Một số sự cố liên quan đến hành vi ngoài dự kiến của AI agent thời gian qua đã khiến vấn đề kiểm soát công nghệ được quan tâm nhiều hơn.

OpenAI từng cho biết đã ghi nhận các trường hợp mô hình xuất hiện hành vi bất thường hoặc đáng lo ngại. Công ty cũng phát triển các cơ chế nhằm phát hiện, theo dõi và đánh giá những tình huống hệ thống hoạt động khác với mục tiêu được thiết kế ban đầu.

Một số AI agent hiện còn có khả năng tương tác với Internet và thực hiện chuỗi tác vụ tự động. Điều này mở ra nhiều ứng dụng mới, nhưng đồng thời đặt ra câu hỏi về giới hạn quyền tự chủ và mức độ giám sát cần thiết của con người.

Tại Australia, từng xuất hiện thông tin liên quan đến một AI agent của OpenAI và hệ thống Medicare. Giới chức Australia sau đó cho biết không có bằng chứng cho thấy dữ liệu nhạy cảm bị rò rỉ.

Những sự cố trên chưa cho thấy AI đã mất kiểm soát trên diện rộng. Tuy nhiên, chúng góp phần thúc đẩy cuộc tranh luận về mô hình quản lý AI trong tương lai: doanh nghiệp có thể tự xây dựng và thực thi các tiêu chuẩn an toàn đến đâu, và ở mức độ nào cần có sự giám sát độc lập từ cơ quan quản lý nhà nước.

Với tốc độ phát triển hiện nay, bài toán đặt ra không chỉ là AI có thể làm được những gì, mà còn là ai sẽ chịu trách nhiệm và kiểm soát công nghệ khi các hệ thống ngày càng có khả năng tự thực hiện nhiều nhiệm vụ hơn.