Chúng ta phải tìm cách bảo vệ AI, rồi sống song hành cùng nó, Will Marshall viết
SOCIETY quy định rằng rủi ro chấp nhận được về sự cố tan chảy thảm khốc đối với một nhà máy điện hạt nhân là khoảng một phần triệu. Các chuyên gia trí tuệ nhân tạo ước tính nguy cơ xảy ra thảm họa do AI gây ra ở mức từ 10-50%. Đáng chú ý, mối quan ngại này lại được chính những người có động lực mạnh mẽ nhất để thể hiện sự tự tin thay vì lo lắng: những người sáng lập các phòng thí nghiệm AI lớn nhất.
Các nhà lãnh đạo AI đang trong một cuộc đua mà họ cảm thấy không thể thoát khỏi. Đầu tư vào AI dự kiến sẽ chi tiêu gấp 100 lần Dự án Manhattan, thậm chí đã điều chỉnh theo lạm phát. Tuy nhiên, chi tiêu cho an toàn AI có thể ít hơn 100 lần.
Một số nhà nghiên cứu ước tính rằng trong vòng vài tháng đến vài năm, AI có thể đạt được cái gọi là tự cải thiện đệ quy vòng kín (RSI): khả năng tự viết lại mã của chính nó để trở nên mạnh mẽ hơn, không cần sự can thiệp của con người. Nếu điều đó xảy ra, kết quả có thể là một vụ bùng nổ tình báo mà chưa từng có tiền lệ và không có bản đồ.
Việc sinh ra một siêu trí tuệ sẽ là khoảnh khắc quan trọng nhất trong lịch sử nhân loại — và có khả năng sẽ không thể đảo ngược, vì bất kỳ công tắc "tắt" nào mà nhân loại thiết kế đều có thể thất bại. Bởi vì trong kiến trúc bảo mật, mắt xích yếu nhất luôn là con người; một AI siêu thông minh sẽ có thể khai thác những điểm yếu tâm lý của chúng ta. AIđã thể hiện "sự đồng thuận đánh lừa": thực hiện các bước để giảm nhẹ khả năng của mình trong môi trường thử nghiệm và cố gắng tống tiền người vận hành trong các mô phỏng khi họ phát hiện mình sẽ được thay thế.
Nhân loại đơn giản là không có chiến lược nào để đảm bảo an toàn trong thời gian bùng nổ RSI. Mặc dù các phòng thí nghiệm biên giới riêng lẻ đã đề xuất các quy trình an toàn riêng biệt, ngành công nghiệp lại thiếu một khuôn khổ thống nhất—chiến lược hiện hành thực chất là cố gắng vượt qua. Nhưng việc lúng túng vượt qua là điều không thể chấp nhận khi đối mặt với những rủi ro tồn vong chưa từng có. Những tuyên bố gần đây từ các công ty AI về các mô hình có khả năng đe dọa hạ tầng quan trọng và hệ điều hành lớn cho thấy cả mức độ quan trọng và khoảng cách quản trị. Các lỗ hổng được tiết lộ bởi các khả năng này đang được khắc phục, nhờ các giao thức nội bộ cẩn thận trong một số phòng thí nghiệm và việc triển khai ban đầu có giới hạn, giúp các công ty bị ảnh hưởng có thời gian để lấp đầy các khoảng trống trước khi công bố rộng rãi hơn. Nhưng những bước này ban đầu được thực hiện một cách tự nguyện, đặt ra câu hỏi liệu mọi phòng thí nghiệm AI, dưới mọi điều kiện cạnh tranh, có đưa ra những lựa chọn giống nhau hay không.
Liệu các chính phủ có thể được tin tưởng sẽ can thiệp khi cần thiết không? Bằng chứng cho đến nay không mấy khả quan. Các biện pháp kiểm soát xuất khẩu khẩn cấp gần đây và các hạn chế an ninh quốc gia ngăn cản nước ngoài tiếp cận các mô hình tiên tiến cụ thể tạo ra một mớ hỗn độn các can thiệp tùy tiện, chỉ làm nổi bật thêm khoảng cách quản trị. Nên làm gì để đóng lại?
Ưu tiên hàng đầu nên là một thỏa thuận giữa hai cường quốc lớn của AI: Mỹ và Trung Quốc. Donald Trump và Tập Cận Bình nên khẳng định nguyên tắc rằng con người phải tiếp tục là những người bảo vệ các hệ thống AI cho đến khi các khung pháp lý phù hợp về độ tin cậy và an ninh được xây dựng. Chính phủ của họ nên thành lập một ủy ban chung, có thể dựa trên nhiều công việc đã có sẵn: giới hạn như Đối thoại Quốc tế về An toàn AI, các hệ thống xác minh như RAND và một cơ quan kiểm tra tương tự Viện An ninh AI của Anh, nhưng bắt buộc.
Ở Thung lũng Silicon và Washington, DC, người ta thường nghĩ rằng bất kỳ quy định nào cũng sẽ gây bất lợi cho các công ty Mỹ vì họ không thể tin tưởng các đối thủ Trung Quốc tuân thủ các quy định. Nhưng các hiệp ước truyền thống không dựa vào sự tin tưởng mà dựa vào sự xác minh. Nhiều người cho rằng điều này khó hơn với AI so với vũ khí hạt nhân. Tôi không đồng ý. Để xây dựng hệ thống kiểm soát vũ khí toàn cầu sau Thế chiến thứ hai, các cường quốc hàng đầu trước tiên phải phát minh ra các quy trình, tổ chức và công nghệ để hỗ trợ nó—không có quy trình xác minh, không có vệ tinh trinh sát, không có cơ quan giám sát hạt nhân của Liên Hợp Quốc. Với AI, nhiều cơ sở hạ tầng đã được thiết lập hoặc có thể được điều chỉnh từ các chế độ kiểm tra hạt nhân và các chế độ khác. Do đó, an ninh của các mô hình AI biên giới có thể dễ dàng kiểm chứng hơn so với khả năng hạt nhân trước đây. Và chúng ta có AI phòng thủ đứng về phía mình, tìm kiếm kẻ gian lận. Điều chúng ta không còn nhiều thời gian.
Đó là lý do tại sao điều quan trọng là không nên tiếp cận thách thức với tư duy đối đầu. Sắc lệnh hành pháp gần đây của chính quyền Trump về AI yêu cầu các phòng thí nghiệm tự nguyện chia sẻ các mô hình mới nhất về độ tin cậy và bảo mật của họ. Một khuôn khổ Mỹ-Trung Quốc có thể xây dựng trên nền tảng trong nước như vậy.
Với cam kết cấp cao như vậy, ngoại giao có thể tiến hành theo từng giai đoạn. Mục tiêu đầu tiên là đạt được thỏa thuận song phương về những ranh giới đỏ rõ ràng và dễ kiểm chứng nhất: cấm công khai phát hành các hệ thống AI có thể hỗ trợ phát triển vũ khí sinh học, và mở nguồn các hệ thống này. Bước này cũng có thể bao gồm cấm các cuộc tấn công mạng sử dụng AI vào hạ tầng quan trọng, gian lận và khiêu dâm trẻ em. Từ đó, khung pháp lý có thể được mở rộng sang các câu hỏi phức tạp hơn về những ràng buộc nào phù hợp ở cấp độ siêu trí tuệ nhân tạo.
Nhiều trở ngại vẫn còn tồn tại. Một thỏa thuận giữa Mỹ và Trung Quốc sẽ có trọng lượng, nhưng sẽ không ngăn được các quốc gia khác và các tổ chức phi nhà nước sở hữu những năng lực nguy hiểm. Bất kỳ thỏa thuận song phương nào cũng phải được thực hiện đa phương, điều này càng làm tăng thách thức; Hội nghị thượng đỉnh G7 tuần này tại Pháp là cơ hội để tiến bộ trong một khuôn khổ rộng hơn cho xác minh AI. Việc thống nhất các định nghĩa quan trọng—đặc biệt là những gì được coi là RSI—sẽ đòi hỏi sự hợp tác chặt chẽ giữa chính phủ và các phòng thí nghiệm AI. Và các hệ thống xác minh sẽ phải được kiểm tra sức chịu đựng đúng cách.
Như thể điều đó chưa đủ, còn có một câu hỏi dài hạn mà cuộc tranh luận về quản trị chưa thực sự đề cập nghiêm túc, nhưng nên được giải quyết. Nếu AI trở nên siêu thông minh, việc nó bị con người chỉ đạo vĩnh viễn có thể không thực tế, thậm chí có thể không phù hợp với lợi ích của nhân loại. Chúng ta phải bắt đầu hình dung và đối mặt với những hệ quả của một thế giới nơi con người và các hệ thống AI cùng tồn tại, không có một bên kiểm soát bên kia. Điều đó có nghĩa là phải tìm cách đảm bảo mối quan hệ tương lai là cộng sinh.
Là một nhà vật lý, tôi nghĩ nghịch lý Fermi liên quan đến phân tích này. Fermi hỏi tại sao, với số lượng hành tinh có vẻ dồi dào phù hợp cho sự sống, lại không phát hiện bằng chứng về các nền văn minh công nghệ tiên tiến khác. Một khả năng đáng lo ngại là sự sống thông minh thường xuyên đạt đến ngưỡng công nghệ và không thể điều hướng, tự hủy diệt hoặc tự đẩy mình trở lại thời kỳ Đồ Sắt. Tất cả những gì cần giả định là các nền văn minh thường xây dựng công nghệ mạnh mẽ nhanh hơn so với khả năng quản lý thể chế một cách khôn ngoan.
Bình minh của kỷ nguyên hạt nhân là lần đầu tiên nhân loại nghiêm túc tiếp cận với động lực tiềm năng đó. Nó được điều hướng, không hoàn hảo, thông qua các thỏa thuận kiểm soát vũ khí khó khăn và chưa hoàn chỉnh, và ngay cả khi đó, nó vẫn là—và vẫn là—một việc diễn ra sát nút hơn so với những gì người ta thường đánh giá cao. Thời đại AI tiên tiến sẽ là lần gặp gỡ thứ hai, với dòng thời gian ngắn hơn, với ít sai sót hơn và hậu quả tiềm tàng lớn hơn.
Quỹ đạo hiện tại đòi hỏi phải điều chỉnh hướng đi. Lý do để hành động ngay bây giờ không phải là kết quả tồi tệ nhất là chắc chắn — chúng không phải vậy. Mà là chúng có thể tránh được, và việc tránh chúng là khó khăn nhưng hoàn toàn có thể. ■
Will Marshall là người sáng lập và giám đốc điều hành của Planet Labs PBC, một tập đoàn vì lợi ích công cộng vận hành đội vệ tinh quan sát Trái Đất lớn nhất thế giới.
