Một triết gia tại Berkeley tên là Hubert Dreyfus đã xuất bản một cuốn sách năm 1972 cảnh báo rằng AI sẽ không bao giờ hiểu thế giới theo cách con người hiểu, từng bị cả học giới chế giễu, rồi sau đó chứng kiến toàn bộ ngành nghiên cứu AI dần dần trong 50 năm vô tình chứng minh ông
Tên ông là Hubert Dreyfus. Cuốn sách có tên What Computers Can't Do (Máy tính không thể làm gì).
Và câu chuyện về những gì đã xảy ra với ông trước, trong và sau khi viết cuốn sách này là một trong những phần quan trọng nhất của lịch sử AI mà ít ai kể lại.
Mọi chuyện bắt đầu vào năm 1965. Tập đoàn RAND đã thuê Dreyfus nghiên cứu trí tuệ nhân tạo. Ông nộp một báo cáo dài 90 trang, so sánh nghiên cứu AI với thuật giả kim. Và đó không phải lời khen.
Ông lập luận rằng các nhà nghiên cứu AI đã lặp lại cùng một sai lầm suốt một thập kỷ. Họ làm cho một hệ thống hẹp hoạt động được, rồi dự đoán đó là bước đầu tiên đến trí tuệ nhân tạo tổng quát, nhưng sau đó nó lại chạm vào một “bức tường” mà không ai lường trước. Simon từng nói rằng đến năm 1967 máy tính sẽ là nhà vô địch cờ vua thế giới. Điều đó đã không xảy ra. Dreyfus gọi toàn bộ quá trình này là một mô hình lặp lại: thắng lợi ban đầu, lời hứa lớn, rồi sụp đổ trong im lặng.
Cộng đồng AI không hề hài lòng.
Herbert Simon gọi bài báo đó là rác rưởi. Dreyfus lúc đó đang dạy tại MIT và sau này viết rằng các đồng nghiệp không dám để người khác thấy họ ăn trưa cùng tôi... Cả tòa nhà gần như tránh mặt ông.
Rồi họ thách ông chơi cờ với máy tính.
Dreyfus chưa bao giờ nói mình giỏi cờ vua. Ông chỉ nói rằng AI chơi cờ còn yếu và đúng là như vậy. Nhưng các nhà nghiên cứu MIT đã tổ chức một trận đấu công khai giữa Dreyfus và MacHack VI vào năm 1967. Ông thua. Bản tin của Hiệp hội Máy tính đăng tiêu đề: Một đứa trẻ 10 tuổi có thể thắng máy. Nhưng máy có thể thắng Dreyfus.
Cả ngành ăn mừng. Họ không phản biện được lập luận của ông. Họ chỉ thắng ông trong cờ vua. Không ai nhận ra sự khác biệt.
Dreyfus mở rộng bài báo thành một cuốn sách đầy đủ năm 1972. What Computers Can't Do trình bày một điều sâu hơn cả phê bình về cờ vua.
Lập luận của ông mang tính triết học, không phải kỹ thuật. Ông nói trí tuệ con người không phải là thao tác ký hiệu hay logic. Nó không phải cây luật và suy luận. Nó là một thứ căn bản hơn mà chưa ai chạm tới: khả năng hiểu ngữ cảnh, hành động trong thế giới thông qua một cơ thể, đưa ra phán đoán dựa trên việc đang sống trong một tình huống.
Ông gọi đó là know-how(biết cách làm) đối lập với know-that(biết rằng). Một bác sĩ có thể cảm thấy có gì đó không ổn ở bệnh nhân trước khi gọi tên được nó. Một đại kiện tướng có thể thấy nước đi đúng trước khi tính toán. Một người bước vào phòng và hiểu ngay động lực xã hội trong vài giây mà không cần thuật toán.
Đây không phải những việc có thể mã hóa. Không phải vì chúng huyền bí, mà vì chúng gắn với thân thể, với kinh nghiệm sống dài hạn trong thế giới. Một cỗ máy trong trung tâm dữ liệu không có điều đó. Nó chưa từng chạm vào bất cứ thứ gì. Nó không có cơ thể. Nó chưa từng sợ hãi, đói, hay bối rối giữa một thành phố.
Cộng đồng AI tiếp tục bác bỏ ông suốt 20 năm nữa. Nhưng rồi mọi thứ bắt đầu thay đổi âm thầm.
Cách tiếp cận AI ký hiệu (symbolic AI) mà ông phê phán bắt đầu thất bại đúng như ông dự đoán. Ngôn ngữ quá mơ hồ. Common sense (lẽ thường) cực kỳ khó mã hóa. Những hệ thống hoạt động tốt trong miền hẹp lại sụp đổ hoàn toàn khi gặp thế giới thực.
Đến thập niên 1990, lĩnh vực này phần lớn đã rời bỏ hướng tiếp cận mà Dreyfus từng chỉ trích. Khi MIT Press xuất bản lại cuốn sách năm 1992 với lời giới thiệu mới, các nhà sử học AI bắt đầu viết rằng: thời gian đã chứng minh sự chính xác và sắc sảo trong nhận xét của Dreyfus
Năm 2007, một nhà báo hỏi ông có nghĩ mình đã thắng tranh luận không. Ông trả lời: Tôi nghĩ tôi đã thắng rồi, và mọi chuyện đã xong. Họ đã bỏ cuộc.
Ông đúng và sai cùng lúc. Symbolic AI đã sụp đổ. Nhưng một thứ khác xuất hiện: deep learning, được huấn luyện trên lượng dữ liệu khổng lồ do con người tạo ra, học mẫu từ dưới lên thay vì áp luật từ trên xuống.
Dreyfus dành những năm cuối đời để suy nghĩ liệu deep learning có phản biện được ông hay chỉ là đi đường vòng quanh vấn đề. Ông từng nói vấn đề không phải là nhận dạng mẫu. Vấn đề là thứ khác: tính đặt trong hoàn cảnh(situatedness), ý nghĩa, khả năng quan tâm đến kết quả vì có “stake” trong thế giới.
Một mô hình được huấn luyện trên hàng nghìn tỷ token có thể biết rất nhiều về điều con người nói. Nhưng nó có thực sự hiểu điều con người nghĩ hay không là một câu hỏi khác. Nó có thể hành động trong thế giới như con người với cơ thể, lịch sử và rủi ro hay không, vẫn là câu hỏi ông dành 50 năm để buộc người ta phải nghiêm túc xem xét.
Ông mất năm 2017. GPT-2 ra đời hai năm sau đó. GPT-4 ra đời sáu năm sau nữa.
Câu hỏi ông đặt ra vẫn chưa có lời giải. Chúng ta tạo ra những hệ thống từng được xem là phép màu vào năm 1972: biết viết, lập luận, lập trình, tranh luận, sáng tác, dịch và giải thích. Và các nhà nghiên cứu AI ở mọi phòng lab lớn vẫn đang cố hiểu chính xác những hệ thống này còn thiếu điều gì.
Dreyfus dành 50 năm trên một campus nơi người ta không muốn ăn trưa cùng ông chỉ vì ông nói câu hỏi đó quan trọng.
Người từng sai về cờ vua lại đúng về gần như mọi thứ khác.
