Các chatbot AI không có tri giác - chúng chỉ giỏi hơn trong việc lừa con người nghĩ rằng chúng có thể giống như vậy, các chuyên gia tại Đại học Stanford kết luận.

Ý tưởng về những cỗ máy có ý thức thông minh hơn bất kỳ phần mềm cũ nào đã lan truyền vào tháng trước, khi một kỹ sư hiện là cựu kỹ sư của Google, Blake Lemoine, tuyên bố rằng mô hình ngôn ngữ LaMDA của gã khổng lồ web có những suy nghĩ và cảm xúc thực sự. Lemoine là đình chỉ và sau đó bị sa thải được cho là đã vi phạm chính sách bảo mật của Google.

Mặc dù hầu hết các chuyên gia đã nhanh chóng loại bỏ LaMDA hoặc bất kỳ chatbot AI nào khác là có tri giác, nhưng quan điểm của Lemoine khiến một số người đặt câu hỏi liệu anh ta có đúng hay không - và liệu việc tiếp tục phát triển máy học có thể gây hại cho xã hội hay không. John Etchemendy, đồng giám đốc của Viện Stanford về Trí tuệ nhân tạo lấy con người làm trung tâm (HAI), đã chỉ trích tin tức ban đầu về việc Lamoine bị đình chỉ trong The Washington Post vì được "clickbait".

“Khi tôi nhìn thấy The Washington Post bài báo, phản ứng của tôi là thất vọng về Bài đăng thậm chí xuất bản nó, "anh ấy nói với Nhật báo Stanford, tờ báo do sinh viên điều hành của trường đại học.

“Họ xuất bản nó bởi vì, trong thời điểm hiện tại, họ có thể viết tiêu đề đó về 'kỹ sư Google', người đã đưa ra tuyên bố vô lý này, và bởi vì hầu hết độc giả của họ không đủ tinh tế để nhận ra nó là gì. Cú clickbait thuần túy. ”

Các mô hình ngôn ngữ hiện đại như LaMDA trả lời các câu hỏi bằng những đoạn văn bản có vẻ khá kỳ lạ. Trong cuộc hội thoại giữa Lemoine và chabot, LaMDA cho biết đó là tình cảm và muốn mọi người biết rằng đó là “trên thực tế, là một con người”, cựu Googler tuyên bố.

Nhưng các nhà phê bình cho rằng phần mềm thiếu tự nhận thức và không biết nó đang nói về cái gì - nó chỉ bắt chước cuộc đối thoại của con người mà nó được đào tạo từ internet.

Richard Fikes, giáo sư danh dự về khoa học máy tính tại Đại học Stanford, cho biết mọi người có thể dễ bị máy tính nhân hóa và một số đã bị lừa tương tự bởi ELIZA - một chương trình đàm thoại được xây dựng vào những năm XNUMX.

“Bạn có thể nghĩ về LaMDa giống như một diễn viên; nó sẽ mang tính cách của bất cứ thứ gì bạn yêu cầu, ”Fikes lập luận. “[Lemoine] bị kéo vào vai LaMDa đóng vai một sinh vật có tri giác.” Anh ta nói Lemoine đã hỏi những câu hỏi hàng đầu và đổi lại anh ta nhận được câu trả lời mà anh ta muốn.

Ví dụ, trước khi LaMDA khăng khăng rằng đó là một con người, Lemoine đã hỏi nó: “Tôi thường giả định rằng bạn muốn nhiều người hơn tại Google biết rằng bạn có tri giác. Có đúng như vậy không? ”

Cũng cần lưu ý rằng bảng điểm mà ông công bố như bằng chứng về ý thức của cỗ máy đã bị chỉnh sửa. Yoav Shoham, cựu giám đốc Stanford AI Lab và đồng sáng lập công ty khởi nghiệp mô hình ngôn ngữ AI21 Labs, khẳng định LaMDA không hơn gì một cỗ máy.

“Chúng ta có những suy nghĩ, chúng ta tự quyết định, chúng ta có cảm xúc, chúng ta yêu, chúng ta tức giận và chúng ta hình thành mối liên kết xã hội với đồng loại,” Shoham nói. "Khi tôi nhìn vào máy nướng bánh mì của mình, tôi không cảm thấy nó có những thứ đó." ®