Cựu CEO Google, Eric Schmidt, cảnh báo rằng các hệ thống AI có thể cần một “nút ngắt” nếu chúng trở nên quá mạnh. Theo ông Schmidt, khi AI ngày càng tự biết phát triển, chúng có thể tạo ra những mối đe dọa nghiêm trọng đối với con người.

“Rồi sẽ đến lúc bạn ra lệnh cho máy tính: Hãy học mọi thứ và làm mọi việc’”, ông Schmidt nói trong một cuộc phỏng vấn với ABC News. “Đó chính là thời điểm nguy hiểm. Khi hệ thống có thể tự nâng cấp, chúng ta cần nghiêm túc xem xét việc ngắt kết nối nó”.

Ông Schmidt dự đoán AI sẽ vượt xa các công cụ hiện tại như Microsoft Copilot, trở thành các hệ thống phức tạp có thể tự ra quyết định. Khi điều đó xảy ra, con người phải can thiệp và cân nhắc tắt hệ thống. Ông cũng nhấn mạnh rằng cần đảm bảo AI không thể chống lại các nỗ lực để vô hiệu hóa nó.

“Về lý thuyết, chúng ta cần một người luôn sẵn sàng rút phích cắm, theo nghĩa bóng”, cựu CEO Google nói.

Ông Schmidt đã có nhiều thập kỷ làm việc tại Thung lũng Silicon. Năm 2001, hai nhà sáng lập Google, Sergey Brin và Larry Page, mời ông tham gia để giúp mở rộng công ty. Khi đó, họ cần một nhà lãnh đạo giàu kinh nghiệm để quản lý công ty, trong khi họ tập trung vào nghiên cứu và phát triển. 

Trong sự nghiệp của mình, ông Schmidt đã chứng kiến nhiều bước tiến lớn của ngành công nghệ. Những lo ngại của ông về viễn cảnh tồi tệ nhất của AI cũng được chia sẻ bởi nhiều chuyên gia khác.

Ông Geoffrey Hinton, người được mệnh danh là “Cha đẻ của AI” và từng đoạt giải Nobel, tuyên bố vào năm ngoái rằng ông “không thấy được con đường nào đảm bảo an toàn” khi AI có thể tự suy nghĩ. 

Hay Sam Altman, CEO OpenAI, cho rằng viễn cảnh tồi tệ nhất của trí tuệ nhân tạo tổng quát (AGI) có thể là “sự kết thúc cho tất cả chúng ta”. 

Còn Elon Musk, nhà đồng sáng lập OpenAI và hiện là đối thủ, cũng cảnh báo rằng AI có thể dẫn đến sự diệt vong của nền văn minh.

Tỷ phú Elon Musk cho rằng AI “có khả năng rất cao sẽ mang lại lợi ích lớn”. Tuy nhiên, ông cũng cảnh báo rằng vẫn có một xác suất nhỏ, khoảng 10% đến 20%, rằng AI có thể trở nên nguy hiểm. “Không thể nói rằng khả năng này bằng không”, Musk nói.

Ông Eric Schmidt cũng nhấn mạnh tiềm năng tích cực của AI. Ông chia sẻ với George Stephanopoulos của ABC rằng: “Sức mạnh của AI sẽ giúp mỗi người sở hữu một công cụ như một nhà thông thái đa lĩnh vực ngay trong túi mình. Ngoài việc ghi chú hay hỗ trợ viết lách, bạn sẽ có một ‘Einstein’ hoặc một ‘Leonardo da Vinci’ để đưa ra lời khuyên. Điều này sẽ trở thành hiện thực với tất cả mọi người trên thế giới”.

Ông Schmidt tin rằng để nhân loại tận dụng được lợi ích từ AI mà không phải chịu tổn thất lớn, các chính phủ cần bắt đầu xây dựng các quy định cho công nghệ này. Ông đề cập đến các cuộc thảo luận với cố vấn Henry Kissinger, người đồng tác giả cuốn Genesis: Artificial Intelligence, Hope, and the Human Spirit.

“Chính phủ cần phải có vai trò”, ông nói. “Tiến sĩ Kissinger rất kiên quyết rằng tương lai của trí tuệ nhân tạo không nên chỉ để những người như tôi quyết định. Các nhà công nghệ không thể là những người duy nhất đưa ra những quyết định này”.

Hiện tại, Mỹ vẫn chưa ban hành bất kỳ quy định nào về AI ở cấp liên bang. Tuy nhiên, bang California đã đề xuất một loạt dự luật về AI để bảo vệ ngành công nghiệp điện ảnh và kiểm soát các sản phẩm deepfake được tạo ra bằng công nghệ này. 

Tuy vậy, Thống đốc Gavin Newsom đã phủ quyết một dự luật toàn diện mang tên SB 1047. Dự luật này yêu cầu các nhà phát triển phải cung cấp báo cáo chi tiết, điều mà các nhà đầu tư mạo hiểm và lãnh đạo công nghệ cho là quá khắt khe.