Logo Zephyrnet

Trí thông minh dữ liệu tạo

AI

Làm sao chúng ta biết liệu AI có ý thức? Các nhà thần kinh học hiện có một danh sách kiểm tra

Được xuất bản lại bởi Plato
Được xuất bản lại bởi Plato

Ngày:

Lượt xem: 35

Gần đây tôi đã tham gia một buổi trị liệu với ChatGPT. Chúng tôi đã nói về một chủ đề lặp đi lặp lại mà tôi đã ám ảnh bạn bè của mình một cách ám ảnh, vì vậy tôi nghĩ rằng tôi sẽ dành cho họ cảm giác déjà vu. Đúng như dự đoán, các phản hồi của AI rất chính xác, thông cảm và mang lại cảm giác rất giống con người.

Là một nhà văn công nghệ, tôi biết điều gì đang xảy ra: một loạt các khớp thần kinh kỹ thuật số được đào tạo dựa trên văn bản do con người tạo ra trên Internet để đưa ra những phản hồi có lợi. Tuy nhiên, sự tương tác có cảm giác rất chân thực và tôi phải liên tục nhắc nhở bản thân rằng tôi đang trò chuyện bằng mã — không phải là một sinh vật có ý thức và đồng cảm ở đầu bên kia.

Hay là tôi? Với AI sáng tạo ngày càng mang lại những phản hồi có vẻ giống con người, thật dễ dàng để gán một loại “tình cảm” cho thuật toán (và không, ChatGPT không có ý thức). Vào năm 2021, Blake Lemoine tại Google khuấy động một cơn bão truyền thông bằng cách tuyên bố rằng một trong những chatbot mà anh ấy làm việc, LaMDA, có tri giác — và sau đó anh ấy đã bị sa thải.

Nhưng hầu hết các mô hình học sâu đều dựa trên hoạt động bên trong của não. Các tác nhân AI ngày càng được trang bị các thuật toán ra quyết định giống con người. Ý tưởng rằng một ngày nào đó trí thông minh của máy móc có thể trở nên có tri giác không còn là chuyện khoa học viễn tưởng nữa.

Làm thế nào chúng ta có thể biết liệu một ngày nào đó bộ não máy móc có được khả năng tri giác hay không? Câu trả lời có thể dựa trên bộ não của chúng ta.

A in sẵn bài báo được viết bởi 19 nhà thần kinh học, triết gia và nhà khoa học máy tính, bao gồm Tiến sĩ Robert Long từ Trung tâm An toàn AI và Tiến sĩ Yoshua Bengio từ Đại học Montreal, lập luận rằng sinh học thần kinh của ý thức có thể là lựa chọn tốt nhất của chúng ta. Thay vì chỉ đơn giản nghiên cứu hành vi hoặc phản hồi của tác nhân AI—ví dụ: trong một cuộc trò chuyện—việc kết hợp phản hồi của nó với các lý thuyết về ý thức con người có thể mang lại một thước đo khách quan hơn.

Đó là một đề xuất đột phá nhưng có ý nghĩa. Chúng ta biết mình có ý thức bất kể định nghĩa của từ này là gì, điều này vẫn chưa ổn định. Có rất nhiều lý thuyết về cách ý thức xuất hiện trong não, với nhiều ứng cử viên hàng đầu vẫn đang được thử nghiệm. thử nghiệm đối đầu toàn cầu.

Các tác giả không tán thành bất kỳ lý thuyết sinh học thần kinh nào về ý thức. Thay vào đó, họ lấy ra một danh sách kiểm tra các “đặc tính chỉ báo” của ý thức dựa trên nhiều ý tưởng chủ đạo. Không có giới hạn nghiêm ngặt nào—giả sử, việc đáp ứng số lượng tiêu chí X có nghĩa là tác nhân AI có ý thức. Đúng hơn, các chỉ số tạo nên một thang đo chuyển động: càng đáp ứng nhiều tiêu chí thì trí tuệ máy có tri giác càng có nhiều khả năng.

Sử dụng các hướng dẫn để kiểm tra một số hệ thống AI gần đây, bao gồm ChatGPT và các chatbot khác, nhóm đã kết luận rằng hiện tại “không có hệ thống AI hiện tại nào có ý thức”.

Tuy nhiên, “không có rào cản kỹ thuật rõ ràng nào trong việc xây dựng hệ thống AI đáp ứng các chỉ số này”, họ cho biết. Có khả năng “các hệ thống AI có ý thức có thể được xây dựng trên thực tế trong thời gian tới”.

Lắng nghe bộ não nhân tạo

Kể từ trò chơi bắt chước nổi tiếng của Alan Turing vào những năm 1950, các nhà khoa học đã suy nghĩ về cách chứng minh liệu một cỗ máy có thể hiện trí thông minh như con người hay không.

Được biết đến nhiều hơn với cái tên Thử nghiệm Turing, thiết lập lý thuyết có một thẩm phán là con người trò chuyện với một cỗ máy và một con người khác — thẩm phán phải quyết định xem người tham gia nào có trí tuệ nhân tạo. Trọng tâm của bài kiểm tra là câu hỏi mang tính khiêu khích “Máy móc có thể suy nghĩ được không?” Càng khó phân biệt được sự khác biệt giữa máy móc và con người thì máy móc càng tiến bộ đến mức có trí thông minh giống con người.

ChatGPT đã phá vỡ bài kiểm tra Turing. Một ví dụ về chatbot được hỗ trợ bởi mô hình ngôn ngữ lớn (LLM), ChatGPT tiếp thu các bình luận, meme và nội dung khác trên internet. Nó cực kỳ thành thạo trong việc mô phỏng các phản ứng của con người - viết bài luận, vượt qua các kỳ thi, đưa ra công thức nấu ăn và thậm chí đưa ra lời khuyên về cuộc sống.

Những tiến bộ này diễn ra với tốc độ đáng kinh ngạc, đã làm dấy lên cuộc tranh luận về cách xây dựng các tiêu chí khác để đánh giá các cỗ máy tư duy. Hầu hết những nỗ lực gần đây đều tập trung vào các bài kiểm tra tiêu chuẩn hóa dành cho con người: ví dụ: những bài kiểm tra được thiết kế cho học sinh trung học, kỳ thi luật sư dành cho luật sư hoặc GRE để vào học cao học. GPT-4 của OpenAI, mô hình AI đằng sau ChatGPT, ghi điểm trong top 10 phần trăm người tham gia. Tuy nhiên, nó đấu tranh với việc tìm kiếm các quy tắc cho một trò chơi giải đố trực quan tương đối đơn giản.

Các tiêu chuẩn mới, trong khi đo lường một loại “trí thông minh”, không nhất thiết phải giải quyết vấn đề về ý thức. Đây là nơi mà khoa học thần kinh xuất hiện.

Danh sách kiểm tra ý thức

Các lý thuyết sinh học thần kinh về ý thức rất nhiều và lộn xộn. Nhưng cốt lõi của chúng là tính toán thần kinh: tức là cách các tế bào thần kinh của chúng ta kết nối và xử lý thông tin để nó đến được tâm trí có ý thức. Nói cách khác, ý thức là kết quả tính toán của não bộ, mặc dù chúng ta chưa hiểu đầy đủ các chi tiết liên quan.

Cái nhìn thực tế về ý thức này giúp có thể chuyển các lý thuyết từ ý thức của con người sang AI. Gọi điện chủ nghĩa chức năng tính toán, giả thuyết dựa trên ý tưởng rằng các phép tính đúng loại sẽ tạo ra ý thức bất kể môi trường nào—những đốm tế bào béo, mềm mại bên trong đầu chúng ta hay những con chip cứng, lạnh lẽo cung cấp năng lượng cho bộ óc máy móc. Nhóm nghiên cứu cho biết: “Về nguyên tắc, ý thức trong AI là có thể thực hiện được”.

Sau đó đến phần khó khăn: làm thế nào để bạn thăm dò ý thức trong hộp đen thuật toán? Một phương pháp tiêu chuẩn ở người là đo các xung điện trong não hoặc bằng MRI chức năng để ghi lại hoạt động ở độ phân giải cao nhưng cả hai phương pháp đều không khả thi để đánh giá mã.

Thay vào đó, nhóm nghiên cứu đã áp dụng “phương pháp tiếp cận thiên về lý thuyết”, phương pháp đầu tiên được sử dụng để nghiên cứu ý thức ở động vật không phải con người.

Để bắt đầu, họ khai thác những lý thuyết hàng đầu về ý thức con người, bao gồm cả lý thuyết phổ biến Lý thuyết không gian làm việc toàn cầu (GWT) cho các chỉ số về ý thức. Ví dụ, GWT quy định rằng tâm trí có ý thức có nhiều hệ thống chuyên biệt hoạt động song song; chúng ta có thể đồng thời nghe, nhìn và xử lý những luồng thông tin đó. Tuy nhiên, có một điểm nghẽn trong quá trình xử lý, đòi hỏi phải có cơ chế chú ý.

Sản phẩm Lý thuyết xử lý định kỳ gợi ý rằng thông tin cần phản hồi lại chính nó theo nhiều vòng như một con đường hướng tới ý thức. Các lý thuyết khác nhấn mạnh sự cần thiết của một loại “cơ thể” nhận phản hồi từ môi trường và sử dụng những thông tin học được đó để nhận thức và kiểm soát tốt hơn các phản ứng với thế giới năng động bên ngoài - thứ được gọi là “hiện thân”.

Với vô số lý thuyết về ý thức để lựa chọn, nhóm đã đặt ra một số quy tắc cơ bản. Để được đưa vào, một lý thuyết cần có bằng chứng đáng kể từ các thử nghiệm trong phòng thí nghiệm, chẳng hạn như các nghiên cứu ghi lại hoạt động não của con người ở các trạng thái ý thức khác nhau. Nhìn chung, sáu lý thuyết đã đạt được mục tiêu. Từ đó, nhóm đã phát triển 14 chỉ số.

Nó không phải là làm một lần. Không có chỉ số nào tự đánh dấu AI có tri giác. Nhóm giải thích: Trên thực tế, các phương pháp học máy tiêu chuẩn có thể xây dựng các hệ thống có các thuộc tính riêng lẻ từ danh sách. Đúng hơn, danh sách này là một thang đo – càng đáp ứng nhiều tiêu chí thì khả năng hệ thống AI có một loại ý thức nào đó càng cao.

Làm thế nào để đánh giá từng chỉ số? Chúng ta sẽ cần xem xét “kiến trúc của hệ thống và cách thông tin truyền qua nó” nói Dài.

Để chứng minh khái niệm, nhóm đã sử dụng danh sách kiểm tra trên một số hệ thống AI khác nhau, bao gồm các mô hình ngôn ngữ lớn dựa trên máy biến áp làm nền tảng cho ChatGPT và các thuật toán tạo ra hình ảnh, chẳng hạn như DALL-E 2. Kết quả hầu như không bị cắt bỏ , với một số hệ thống AI đáp ứng một phần tiêu chí trong khi thiếu các tiêu chí khác.

Tuy nhiên, nhóm cho biết, mặc dù không được thiết kế dành cho không gian làm việc toàn cầu, nhưng mỗi hệ thống “sở hữu một số thuộc tính chỉ báo GWT”, chẳng hạn như sự chú ý. Trong khi đó, Google Hệ thống PaLM-E, đưa các quan sát từ cảm biến rô-bốt, đáp ứng các tiêu chí của phương án.

Không có hệ thống AI tiên tiến nào đạt được nhiều hơn một vài ô, khiến các tác giả kết luận rằng chúng ta vẫn chưa bước vào kỷ nguyên của AI có tri giác. Họ cảnh báo thêm về sự nguy hiểm của việc đánh giá thấp ý thức trong AI, điều này có thể có nguy cơ gây ra “những tổn hại đáng kể về mặt đạo đức” và nhân cách hóa các hệ thống AI khi chúng chỉ là những mã cứng, lạnh lùng.

Tuy nhiên, bài viết đưa ra những hướng dẫn để thăm dò một trong những khía cạnh bí ẩn nhất của tâm trí. “[Đề xuất] rất chu đáo, không khoa trương và đưa ra các giả định thực sự rõ ràng,” Tiến sĩ Anil Seth tại Đại học Sussex nói với Thiên nhiên.

Báo cáo còn lâu mới là lời cuối cùng về chủ đề này. Khi khoa học thần kinh thu hẹp hơn nữa các mối tương quan của ý thức trong não, danh sách kiểm tra có thể sẽ loại bỏ một số tiêu chí và bổ sung thêm các tiêu chí khác. Hiện tại, đây là một dự án đang được thực hiện và các tác giả mời các quan điểm khác từ nhiều lĩnh vực—khoa học thần kinh, triết học, khoa học máy tính, khoa học nhận thức—để trau dồi thêm danh sách.

Ảnh: Greyson Joralemon trên Bapt

tại chỗ_img

Tin tức mới nhất

tại chỗ_img

Bản quyền @ 2024 Plato Technologies Inc.