Ray Kurzweil, một nhà tương lai học nổi tiếng và là giám đốc kỹ thuật của Google, đã công bố phản bác lại bức thư kêu gọi tạm dừng nghiên cứu AI, đưa ra lý do tại sao đề xuất này là không thực tế và tước đi những đột phá và đổi mới y học mang lại lợi ích sâu sắc cho nhân loại.

Thư quốc tế tạm dừng phát triển AI

Một bức thư ngỏ có chữ ký của các nhà khoa học và người nổi tiếng trên khắp thế giới (được xuất bản trên FutureOfLife.org) kêu gọi tạm dừng hoàn toàn việc phát triển AI mạnh hơn GPT-4, phiên bản mới nhất do OpenAI tạo ra.

Ngoài việc tạm dừng phát triển thêm AI, họ cũng kêu gọi phát triển các giao thức an toàn được giám sát bởi các chuyên gia độc lập của bên thứ ba.

Một số điểm mà các tác giả của bức thư ngỏ đưa ra:

• AI đặt ra một rủi ro sâu sắc
• Việc phát triển AI chỉ nên tiến hành khi các ứng dụng có lợi của công nghệ được liệt kê và chứng minh
• AI chỉ nên tiếp tục nếu “chúng tôi” (hàng nghìn người ký vào bức thư) tự tin rằng rủi ro AI có thể kiểm soát được.
• Các nhà phát triển AI được kêu gọi làm việc cùng với các nhà hoạch định chính sách để phát triển các hệ thống quản trị AI bao gồm các cơ quan quản lý.
• Sự phát triển của các công nghệ thủy vân để giúp xác định nội dung do AI tạo ra và để kiểm soát sự lan truyền của công nghệ.
• Một hệ thống gán trách nhiệm pháp lý cho các tác hại do AI tạo ra
• Thành lập các tổ chức để đối phó với sự gián đoạn do công nghệ AI gây ra

Bức thư dường như xuất phát từ quan điểm rằng công nghệ AI là tập trung và có thể bị tạm dừng bởi một số tổ chức kiểm soát công nghệ. Nhưng AI không chỉ nằm trong tay các chính phủ, viện nghiên cứu và tập đoàn.

Tại thời điểm này, AI là một công nghệ nguồn mở và phi tập trung, được phát triển bởi hàng nghìn cá nhân trên quy mô hợp tác toàn cầu.

Ray Kurzweil: Nhà tương lai, Tác giả và Giám đốc Kỹ thuật tại Google

Ray Kurzweil đã thiết kế phần mềm và máy móc tập trung vào trí tuệ nhân tạo từ những năm 1960. Ông đã viết nhiều cuốn sách nổi tiếng về chủ đề này và nổi tiếng với những dự đoán về tương lai có xu hướng đúng.

Trong số 147 dự đoán về cuộc sống mà ông đưa ra trong năm 2009, chỉ có 2 dự đoán sai, tổng cộng là XNUMX%.

Trong số những dự đoán của ông vào những năm 1990 là nhiều phương tiện truyền thông vật lý, chẳng hạn như sách sẽ không còn phổ biến khi chúng được số hóa. Vào thời điểm những năm 1990 khi máy tính lớn và cồng kềnh, ông đã dự đoán rằng máy tính sẽ đủ nhỏ để đeo vào năm 2009, điều này đã trở thành sự thật (Dự đoán của tôi đang sai như thế nào – 2010 PDF).

Những dự đoán gần đây của Ray Kurzweil tập trung vào tất cả những điều tốt đẹp mà AI sẽ mang lại, đặc biệt là những đột phá về y học và khoa học.

Kurzweil cũng tập trung vào đạo đức của AI.

Vào năm 2017, anh ấy là một trong những người tham gia (cùng với Giám đốc điều hành OpenAI Sam Altman), người đã tạo ra một bức thư ngỏ được gọi là Nguyên tắc AI của Asilomar cũng đã được xuất bản trên trang web Tương lai của Cuộc sống, hướng dẫn phát triển công nghệ Trí tuệ nhân tạo một cách an toàn và có đạo đức.

Trong số các nguyên tắc ông đã giúp tạo ra:

• “Mục tiêu của nghiên cứu AI không phải là tạo ra trí thông minh vô hướng mà là trí thông minh có ích.
• Các khoản đầu tư vào AI nên đi kèm với tài trợ cho nghiên cứu để đảm bảo việc sử dụng có lợi cho nó
• Cần có sự trao đổi mang tính xây dựng và lành mạnh giữa các nhà nghiên cứu AI và các nhà hoạch định chính sách.
• AI tiên tiến có thể đại diện cho một sự thay đổi sâu sắc trong lịch sử sự sống trên Trái đất và cần được lên kế hoạch cũng như quản lý với sự quan tâm và nguồn lực tương xứng.
• Trí tuệ siêu việt chỉ nên được phát triển để phục vụ những lý tưởng đạo đức được chia sẻ rộng rãi và vì lợi ích của toàn nhân loại chứ không phải của một quốc gia hay tổ chức nào.”

Câu trả lời của Kurzweil đối với bức thư ngỏ yêu cầu tạm dừng phát triển AI xuất phát từ cả cuộc đời đổi mới công nghệ theo quan điểm về tất cả những điều tốt đẹp mà nó có thể mang lại cho nhân loại và thế giới tự nhiên.

Câu trả lời của ông tập trung vào ba điểm chính:

• Lời kêu gọi tạm dừng quá mơ hồ để trở thành hiện thực
• Tất cả các quốc gia phải đồng ý tạm dừng hoặc các mục tiêu bị đánh bại ngay từ đầu
• Việc tạm dừng phát triển bỏ qua những lợi ích như xác định phương pháp chữa trị bệnh.

Quá mơ hồ để trở thành thực tế

Điểm đầu tiên của anh ấy về bức thư là nó quá mơ hồ vì nó gây ra sự tạm dừng đối với AI mạnh hơn GPT-4, giả định rằng GPT-4 là loại AI duy nhất.

Kurzweil đã viết:

“Liên quan đến bức thư ngỏ đề nghị “tạm dừng” nghiên cứu về AI “mạnh hơn GPT-4”, tiêu chí này quá mơ hồ để trở thành hiện thực.”

Các quốc gia sẽ từ chối tạm dừng

Điểm thứ hai của ông là những yêu cầu nêu trong bức thư chỉ có thể thực hiện được nếu tất cả các nhà nghiên cứu trên thế giới tự nguyện hợp tác.

Bất kỳ quốc gia nào từ chối ký kết sẽ có lợi thế, đó có thể là điều sẽ xảy ra.

Anh ấy viết:

“Và đề xuất phải đối mặt với một vấn đề phối hợp nghiêm trọng: những người đồng ý tạm dừng có thể thua xa các tập đoàn hoặc quốc gia không đồng ý.”

Điểm này cho thấy rõ ràng rằng mục tiêu tạm dừng hoàn toàn là không khả thi, bởi vì các quốc gia sẽ không nhường lợi thế và ngoài ra, AI được dân chủ hóa và nguồn mở, nằm trong tay của các cá nhân trên khắp thế giới.

AI mang lại lợi ích đáng kể cho AI

Đã có những bài xã luận cho rằng AI có rất ít lợi ích cho xã hội, lập luận rằng việc tăng năng suất của người lao động là không đủ để biện minh cho những rủi ro mà họ lo sợ.

Điểm cuối cùng của Kurzweil là bức thư ngỏ tìm cách tạm dừng phát triển AI hoàn toàn bỏ qua tất cả những điều tốt đẹp mà AI có thể làm.

Anh ấy giải thích:

“Có những lợi ích to lớn khi thúc đẩy AI trong các lĩnh vực quan trọng như y học và sức khỏe, giáo dục, theo đuổi các nguồn năng lượng tái tạo để thay thế nhiên liệu hóa thạch và nhiều lĩnh vực khác.

…cần có nhiều sắc thái hơn nếu chúng ta muốn khai thác những lợi ích sâu sắc của AI đối với sức khỏe và năng suất trong khi tránh được những nguy cơ thực sự.”

Nguy hiểm, sợ hãi về những điều chưa biết và lợi ích cho nhân loại

Kurzweil đưa ra quan điểm tốt về cách AI có thể mang lại lợi ích cho xã hội. Quan điểm của anh ấy rằng không có cách nào thực sự tạm dừng AI là âm thanh.

Giải thích của ông về AI nhấn mạnh những lợi ích sâu sắc cho nhân loại vốn có trong AI.

Có thể nào việc triển khai AI của OpenAI dưới dạng chatbot tầm thường hóa AI và làm lu mờ lợi ích cho nhân loại, đồng thời khiến những người không hiểu cách AI tổng quát hoạt động?

Ảnh nổi bật của Shutterstock/Iurii Motov

• Phân phối nội dung và PR được hỗ trợ bởi SEO. Được khuếch đại ngay hôm nay.
• PlatoAiStream. Thông minh dữ liệu Web3. Kiến thức khuếch đại. Truy cập Tại đây.
• Đúc kết tương lai với Adryenn Ashley. Truy cập Tại đây.
• Mua và bán cổ phần trong các công ty PRE-IPO với PREIPO®. Truy cập Tại đây.
• nguồn: https://www.searchenginejournal.com/ray-kurzweil-rebuts-calls-to-pause-ai-research/486315/