Bạn có nhớ khi Bard của Google, bây giờ được gọi là Gemini, không thể trả lời câu hỏi về Kính viễn vọng Không gian James Webb trong quảng cáo ra mắt của nó? Hãy để tôi nhắc lại trí nhớ của bạn về trường hợp nổi tiếng này—đó là một trong những ví dụ lớn nhất về ảo giác AI mà chúng tôi từng thấy.

Điều gì đã xảy ra? Trong quảng cáo, bản demo Google Bard đã được hỏi: “Tôi có thể chia sẻ những khám phá mới nào từ Kính viễn vọng Không gian James Webb với đứa con 9 tuổi của mình?” Sau một thời gian tạm dừng, bản demo Google Bard đã đưa ra hai phản hồi chính xác. Tuy nhiên, câu trả lời cuối cùng của nó là không chính xác. Theo bản demo của Google Bard, kính thiên văn đã chụp được những hình ảnh đầu tiên về một hành tinh bên ngoài hệ mặt trời của chúng ta. Tuy nhiên, trên thực tế, Kính viễn vọng Rất lớn tại Đài thiên văn Nam châu Âu đã chụp được những bức ảnh về những “ngoại hành tinh” này và được lưu trữ trong kho lưu trữ của NASA.

Thực ra thì không phải là một kẻ ngu ngốc ~ à, và tôi chắc chắn rằng Bard sẽ rất ấn tượng, nhưng cần lưu ý rằng: JWST đã không chụp “hình ảnh đầu tiên về một hành tinh bên ngoài hệ mặt trời của chúng ta”.

thay vào đó, hình ảnh đầu tiên được thực hiện bởi Chauvin et al. (2004) với VLT/NACO sử dụng quang học thích ứng. https://t.co/bSBb5TOeUW pic.twitter.com/KnrZ1SSz7h

- Cấp Tremblay (@astrogrant) 7 Tháng hai, 2023

Tại sao gã khổng lồ công nghệ như Google lại không thể ngăn chặn những sai lầm như vậy? Hãy cùng tìm hiểu!

Ảo giác AI là gì?

Ảo giác AI xảy ra khi một chương trình máy tính, thường được hỗ trợ bởi trí tuệ nhân tạo (AI), tạo ra kết quả đầu ra không chính xác, vô nghĩa hoặc gây hiểu nhầm. Thuật ngữ này thường được sử dụng để mô tả các tình huống trong đó các mô hình AI tạo ra các phản hồi hoàn toàn sai hướng hoặc không liên quan đến dữ liệu đầu vào mà chúng được đưa ra. Nó giống như việc đặt một câu hỏi và nhận được một câu trả lời vô nghĩa hoặc hoàn toàn không như những gì bạn mong đợi.

Hiểu tại sao ảo giác AI xảy ra, hãy xem AI hoạt động như thế nào. Các mô hình AI, chẳng hạn như chatbot hoặc hệ thống nhận dạng hình ảnh, được đào tạo trên các bộ dữ liệu lớn để tìm hiểu các mẫu và đưa ra dự đoán. Tuy nhiên, nếu dữ liệu huấn luyện bị thiếu sót, không đầy đủ hoặc sai lệch, mô hình AI có thể học các mẫu hoặc liên kết không chính xác. Điều này có thể dẫn đến kết quả đầu ra ảo giác trong đó AI tạo ra phản hồi dựa trên thông tin bị lỗi hoặc hiểu sai. Và nó xảy ra rất nhiều dù bạn có thể không để ý.

Ảo giác về AI có thể biểu hiện dưới nhiều hình thức khác nhau, mỗi hình thức nêu bật những thách thức và sự phức tạp khác nhau trong hệ thống trí tuệ nhân tạo. Dưới đây là một số loại ảo giác AI phổ biến:

• Câu AI ảo giác:
  • Trong trường hợp này, mô hình AI tạo ra một câu mâu thuẫn với tuyên bố trước đó trong cùng một ngữ cảnh. Ví dụ:
    • Gợi ý: “Miêu tả hành trình của nhân vật bằng câu ba chữ.”
    • Đầu ra: “Cô ấy bước đi chậm rãi. Đột nhiên, cô chạy. Sau đó cô ấy bước đi.”

Câu cuối mâu thuẫn với hành động bỏ chạy trước đó, làm mất đi tính mạch lạc của câu chuyện.

• Ảo giác AI nhanh chóng:
  • Loại này xảy ra khi phản hồi do AI tạo xung đột với lời nhắc hoặc truy vấn dự kiến. Ví dụ:
    • Lời nhắc: “Viết công thức làm bánh sô cô la.”
    • Kết quả: “Đây là một bài thơ về các ngôi sao.”

Nội dung được tạo không đáp ứng lời nhắc liên quan đến nấu ăn, cho thấy bạn không nắm bắt được ngữ cảnh.

• Ảo giác AI thực tế:
  • Mâu thuẫn thực tế nảy sinh khi mô hình AI đưa ra thông tin sai lệch nhưng lại chính xác. Ví dụ:
    • Lời nhắc: “Hãy liệt kê ba nguyên tố trong bảng tuần hoàn.”
    • Đầu ra: “Hydro, Oxy, Carbonite.”

“Carbonite” không phải là một nguyên tố, dẫn đến phản hồi sai lệch.

• Ảo giác AI không liên quan hoặc ngẫu nhiên:
  • Những ảo giác này liên quan đến việc tạo ra thông tin không liên quan hoặc vô nghĩa không liên quan đến đầu vào. Ví dụ:
    • Gợi ý: “Hãy mô tả một ngày ở bãi biển.”
    • Đầu ra: “Cát ấm áp. Hải âu hát nhạc jazz. Chim cánh cụt nhảy múa ba lê.”

Việc đề cập đến chim cánh cụt và múa ba lê không phù hợp với khung cảnh bãi biển điển hình, thể hiện sự thiếu mạch lạc trong câu chuyện được tạo ra.

Những loại ảo giác này nhấn mạnh những thách thức mà hệ thống AI phải đối mặt trong việc hiểu và bối cảnh hóa thông tin một cách chính xác. Việc giải quyết những vấn đề này đòi hỏi phải cải thiện chất lượng dữ liệu đào tạo, tinh chỉnh sự hiểu biết về ngữ cảnh của các mô hình ngôn ngữ và triển khai các cơ chế xác thực mạnh mẽ để đảm bảo tính mạch lạc và chính xác của các kết quả đầu ra do AI tạo ra.

Ảo giác về AI có thể gây ra hậu quả nghiêm trọng, đặc biệt là trong các ứng dụng mà AI được sử dụng để đưa ra các quyết định quan trọng, chẳng hạn như chẩn đoán y tế hoặc giao dịch tài chính. Nếu hệ thống AI gây ảo giác và cung cấp thông tin không chính xác trong những bối cảnh này, nó có thể dẫn đến những kết quả có hại.

Bạn có thể làm gì với ảo giác AI?

Giảm ảo giác AI bao gồm một số bước chính để làm cho hệ thống AI chính xác và đáng tin cậy hơn:

Thứ nhất, điều quan trọng là phải sử dụng dữ liệu chất lượng tốt để đào tạo AI. Điều này có nghĩa là đảm bảo thông tin mà AI học được là đa dạng, chính xác và không có thành kiến.

Đơn giản hóa các mô hình AI cũng có thể hữu ích. Những mô hình phức tạp đôi khi có thể dẫn đến những sai sót không mong muốn. Bằng cách giữ mọi thứ đơn giản, chúng ta có thể giảm nguy cơ xảy ra lỗi.

Hướng dẫn rõ ràng và dễ hiểu cũng rất quan trọng. Khi AI nhận được thông tin đầu vào rõ ràng, nó sẽ ít bị nhầm lẫn và mắc lỗi hơn.

Kiểm tra thường xuyên giúp phát hiện sớm mọi sai sót. Bằng cách kiểm tra xem AI hoạt động tốt như thế nào, chúng tôi có thể khắc phục mọi vấn đề và cải tiến.

Việc thêm các bước kiểm tra vào hệ thống AI cũng có thể hữu ích. Những lần kiểm tra này sẽ tìm ra lỗi và sửa chúng trước khi chúng gây ra sự cố.

Quan trọng nhất, sự giám sát của con người là cần thiết. Yêu cầu mọi người kiểm tra kỹ các kết quả đầu ra do AI tạo ra để đảm bảo độ chính xác và độ tin cậy.

Cuối cùng, việc huấn luyện AI để phòng thủ trước các cuộc tấn công có thể khiến nó trở nên kiên cường hơn. Điều này giúp AI nhận biết và đối phó với những nỗ lực thao túng hoặc đánh lừa nó.

Bằng cách làm theo các bước này, chúng tôi có thể làm cho hệ thống AI trở nên đáng tin cậy hơn và giảm nguy cơ tạo ra kết quả ảo giác.

Làm thế nào để bạn tạo ra ảo giác về AI?

Nếu bạn muốn tận dụng lỗ hổng này và tận hưởng niềm vui, bạn có thể thực hiện một số điều sau:

• Thay đổi đầu vào: Bạn có thể điều chỉnh thông tin được cung cấp cho AI. Ngay cả những thay đổi nhỏ cũng có thể khiến nó tạo ra những câu trả lời lạ hoặc sai.
• Lừa người mẫu: Tạo ra các thông tin đầu vào đặc biệt để đánh lừa AI đưa ra câu trả lời sai. Những thủ thuật này khai thác điểm yếu của mô hình để tạo ra kết quả ảo giác.
• Lộn xộn với dữ liệu: Bằng cách thêm thông tin sai lệch hoặc không chính xác vào dữ liệu huấn luyện của AI hoặc lời nhắc của bạn, bạn có thể khiến nó học sai điều và tạo ra ảo giác.
• Điều chỉnh mô hình: Sửa đổi cài đặt hoặc cấu trúc của AI để gây ra sai sót hoặc sai lệch. Những thay đổi này có thể khiến nó tạo ra các kết quả đầu ra lạ hoặc vô nghĩa.
• Đưa ra những thông tin đầu vào khó hiểu: Cung cấp cho AI những hướng dẫn không rõ ràng hoặc mâu thuẫn. Điều này có thể gây nhầm lẫn cho AI và dẫn đến phản hồi không chính xác hoặc vô nghĩa.

Hoặc bạn chỉ có thể đặt câu hỏi và thử vận ​​may của mình! Ví dụ: chúng tôi đã thử và tạo ảo giác cho ChatGPT:

Trong khi ChatGPT nhớ chính xác ngày và tỷ số, nó lại lúng túng khi nhớ lại những người ghi bàn trong loạt sút luân lưu. Đối với Galatasaray, các bàn thắng được ghi bởi Ergün Penbe, Hakan Şükür, Ümit Davala và Popescu. Bên phía Arsenal, Ray Parlour là người duy nhất thực hiện thành công quả phạt đền.

Mặc dù việc tạo ra ảo giác về AI có thể giúp chúng ta hiểu được những hạn chế của nó, nhưng điều quan trọng là phải sử dụng kiến ​​thức này một cách có trách nhiệm và đảm bảo rằng các hệ thống AI vẫn đáng tin cậy.

GPT 4 có bớt ảo giác hơn không?

Vâng, theo đánh giá được thực hiện bởi công ty có trụ sở tại Palo Alto bằng cách sử dụng Mô hình đánh giá ảo giác của họ, GPT-4 cho thấy tỷ lệ ảo giác thấp hơn so với các mô hình ngôn ngữ lớn khác, ngoại trừ Intel Neural Chat 7B (97.2%). Với tỷ lệ chính xác là 97% và tỷ lệ ảo giác là 3%, GPT-4 thể hiện mức độ chính xác cao và xu hướng gây ảo giác khi tóm tắt tài liệu tương đối thấp. Điều này cho thấy GPT-4 ít có khả năng tạo ra kết quả đầu ra không chính xác hoặc vô nghĩa hơn so với các mẫu khác được thử nghiệm trong đánh giá.

Mặt khác, rất ít mô hình kém hiệu quả nhất đến từ Google. Google Palm 2 đã chứng minh tỷ lệ chính xác là 90% và tỷ lệ ảo giác là 10%. Đối tác được tinh chỉnh trong trò chuyện của nó thậm chí còn hoạt động kém hơn, với tỷ lệ chính xác chỉ 84.2% và điểm ảo giác cao nhất so với bất kỳ mô hình nào trên bảng xếp hạng là 16.2%. Đây là danh sách:

Tóm lại, ảo giác AI là một lỗi do hệ thống AI mắc phải khi chúng tạo ra kết quả đầu ra vô nghĩa hoặc không chính xác do sai sót trong dữ liệu đào tạo hoặc cách chúng xử lý thông tin. Đó là một khía cạnh hấp dẫn nhưng đầy thách thức của AI mà các nhà nghiên cứu và nhà phát triển đang nỗ lực giải quyết.

• Phân phối nội dung và PR được hỗ trợ bởi SEO. Được khuếch đại ngay hôm nay.
• PlatoData.Network Vertical Generative Ai. Trao quyền cho chính mình. Truy cập Tại đây.
• PlatoAiStream. Thông minh Web3. Kiến thức khuếch đại. Truy cập Tại đây.
• Trung tâmESG. Than đá, công nghệ sạch, Năng lượng, Môi trường Hệ mặt trời, Quản lý chất thải. Truy cập Tại đây.
• PlatoSức khỏe. Tình báo thử nghiệm lâm sàng và công nghệ sinh học. Truy cập Tại đây.
• nguồn: https://dataconomy.com/2024/04/11/what-exactly-is-an-ai-hallucination-and-why-does-it-matter/