Sự ra đời của các mô hình ngôn ngữ lớn (LLM) đã mang lại một sự thay đổi mô hình đáng kể trong trí tuệ nhân tạo (AI) và máy học (ML) lĩnh vực. Với những tiến bộ vượt trội của mình, LLM giờ đây có thể tạo nội dung về các chủ đề đa dạng, giải quyết các câu hỏi phức tạp và nâng cao đáng kể sự hài lòng của người dùng. Tuy nhiên, cùng với sự tiến triển của họ, một thách thức mới đã xuất hiện: Ảo giác. Hiện tượng này xảy ra khi LLM tạo ra văn bản sai, vô nghĩa hoặc rời rạc. Những sự cố như vậy đặt ra những rủi ro và thách thức tiềm ẩn cho các tổ chức tận dụng các mô hình này. Đặc biệt đáng lo ngại là các tình huống liên quan đến việc phổ biến thông tin sai lệch hoặc tạo ra tài liệu mang tính xúc phạm. 

Tính đến tháng 2024 năm 3, tỷ lệ ảo giác đối với các mô hình được công bố rộng rãi dao động từ khoảng 16% đến 1% [XNUMX]. Trong bài viết này, chúng tôi sẽ phác thảo các chiến lược khác nhau để giảm thiểu rủi ro này một cách hiệu quả

Kỹ thuật/Điều chỉnh nhắc nhở theo ngữ cảnh

Kỹ thuật nhắc nhở là quá trình thiết kế và tinh chỉnh các hướng dẫn được cung cấp cho mô hình ngôn ngữ lớn để thu được kết quả tốt nhất có thể. Cần có sự kết hợp giữa chuyên môn và tính sáng tạo để tạo ra những gợi ý tốt nhất nhằm khơi gợi những phản ứng hoặc hành vi cụ thể từ LLM. Việc thiết kế các lời nhắc bao gồm hướng dẫn rõ ràng, tín hiệu theo ngữ cảnh hoặc kỹ thuật đóng khung cụ thể sẽ giúp hướng dẫn quá trình tạo LLM. Bằng cách cung cấp hướng dẫn và bối cảnh rõ ràng, GPT nhắc nhở kỹ thuật làm giảm sự mơ hồ và giúp mô hình tạo ra phản hồi mạch lạc và đáng tin cậy hơn.

Các yếu tố của một lời nhắc

Đây là danh sách các yếu tố tạo nên lời nhắc được xây dựng tốt:

• Bối cảnh: Giới thiệu chi tiết cơ bản hoặc cung cấp phần giới thiệu ngắn gọn giúp LLM hiểu chủ đề và đóng vai trò là điểm khởi đầu để thảo luận.
• hướng dẫn: Việc tạo ra các câu hỏi rõ ràng và ngắn gọn đảm bảo rằng câu trả lời của mô hình vẫn tập trung vào chủ đề mong muốn. Ví dụ: người ta có thể yêu cầu người mẫu “tóm tắt chương dưới 100 từ bằng tiếng Anh đơn giản”.
• Ví dụ đầu vào: Việc cung cấp các ví dụ cụ thể cho mô hình sẽ giúp tạo ra các phản hồi phù hợp. Ví dụ: nếu khách hàng phàn nàn: “Sản phẩm tôi nhận được bị hỏng”, mô hình có thể đề xuất câu trả lời thích hợp và đề xuất các lựa chọn hoàn tiền tiềm năng.
• Định dạng đầu ra: Việc chỉ định định dạng mong muốn cho phản hồi, chẳng hạn như danh sách dấu đầu dòng, đoạn văn hoặc đoạn mã, sẽ hướng dẫn LLM cấu trúc đầu ra của nó cho phù hợp. Ví dụ: người ta có thể yêu cầu “hướng dẫn từng bước bằng cách sử dụng danh sách được đánh số”.
• Lý do: Việc điều chỉnh và tinh chỉnh lặp đi lặp lại các lời nhắc dựa trên phản hồi của mô hình có thể nâng cao đáng kể chất lượng đầu ra. Ví dụ, việc nhắc nhở theo chuỗi suy nghĩ sẽ chia các vấn đề có nhiều bước thành các bước trung gian, cho phép khả năng suy luận phức tạp vượt xa các phương pháp nhắc nhở tiêu chuẩn.
• Tinh chỉnh nhắc nhở: Việc điều chỉnh lời nhắc dựa trên các trường hợp sử dụng hoặc miền cụ thể sẽ cải thiện hiệu suất của mô hình trên các tác vụ hoặc tập dữ liệu cụ thể.
• Sàng lọc thông qua truy vấn tương tác: Việc điều chỉnh và tinh chỉnh lặp đi lặp lại các lời nhắc dựa trên phản hồi của mô hình sẽ nâng cao chất lượng đầu ra và cho phép LLM sử dụng lý luận để đưa ra câu trả lời cuối cùng, giảm đáng kể ảo giác.

Đóng khung nhắc nhở tích cực

Người ta đã quan sát thấy rằng việc sử dụng các hướng dẫn tích cực thay vì hướng dẫn tiêu cực sẽ mang lại kết quả tốt hơn (tức là 'Làm' thay vì 'Không'). Ví dụ về đóng khung tiêu cực:

Đừng hỏi người dùng nhiều hơn 1 câu hỏi cùng một lúc. Ví dụ về đóng khung tích cực: Khi bạn hỏi người dùng thông tin, hãy hỏi tối đa 1 câu hỏi mỗi lần.

Cũng đọc: LLM có thông minh hơn con người trong việc tạo ra thông tin sai lệch thuyết phục không?

Truy xuất thế hệ tăng cường (RAG)

Truy xuất thế hệ tăng cường (RAG) là quá trình trao quyền cho mô hình LLM với kiến ​​thức cập nhật và cụ thể về miền để tăng độ chính xác và khả năng kiểm tra phản hồi của mô hình. Đây là một kỹ thuật mạnh mẽ kết hợp kỹ thuật kịp thời với truy xuất ngữ cảnh từ các nguồn dữ liệu bên ngoài để cải thiện hiệu suất và mức độ liên quan của LLM. Bằng cách xây dựng mô hình dựa trên thông tin bổ sung, nó cho phép đưa ra các phản hồi chính xác hơn và phù hợp với ngữ cảnh hơn.

Cách tiếp cận này có thể mang lại lợi ích cho nhiều ứng dụng khác nhau, chẳng hạn như chatbot trả lời câu hỏi, công cụ tìm kiếm và công cụ tri thức. Bằng cách sử dụng RAG, LLM có thể trình bày thông tin chính xác với sự phân bổ nguồn, giúp nâng cao niềm tin của người dùng và giảm nhu cầu đào tạo mô hình liên tục về dữ liệu mới.

Điều chỉnh thông số mô hình

Các tham số mô hình khác nhau, chẳng hạn như nhiệt độ, tần số phạt và top-p, ảnh hưởng đáng kể đến đầu ra do LLM tạo ra. Cài đặt nhiệt độ cao hơn khuyến khích tính ngẫu nhiên và sáng tạo hơn, trong khi cài đặt thấp hơn khiến kết quả đầu ra dễ dự đoán hơn. Việc tăng giá trị phạt tần suất sẽ nhắc mô hình sử dụng các từ lặp lại một cách tiết kiệm hơn. Tương tự, việc tăng giá trị hình phạt hiện diện sẽ làm tăng khả năng tạo ra các từ chưa được sử dụng trong đầu ra.

Tham số top-p điều chỉnh sự đa dạng của câu trả lời bằng cách đặt ngưỡng xác suất tích lũy để chọn từ. Nhìn chung, các tham số này cho phép tinh chỉnh và đạt được sự cân bằng giữa việc tạo ra các phản hồi khác nhau và duy trì độ chính xác. Do đó, việc điều chỉnh các tham số này sẽ làm giảm khả năng mô hình tưởng tượng ra câu trả lời.

Phát triển/làm giàu mô hình

• Tinh chỉnh LLM được đào tạo trước: Tinh chỉnh là quá trình chúng tôi huấn luyện một mô hình được đào tạo trước với tập dữ liệu được gắn nhãn dành riêng cho nhiệm vụ nhỏ hơn. Bằng cách tinh chỉnh tập dữ liệu dành riêng cho nhiệm vụ, LLM có thể nắm bắt được các sắc thái của miền đó. Điều này đặc biệt quan trọng trong các lĩnh vực có thuật ngữ, khái niệm hoặc cấu trúc chuyên ngành, chẳng hạn như tài liệu pháp lý, văn bản y tế hoặc báo cáo tài chính. Kết quả là, khi đối mặt với các ví dụ chưa được nhìn thấy từ miền hoặc nhiệm vụ cụ thể, mô hình có khả năng đưa ra dự đoán hoặc tạo ra kết quả đầu ra với độ chính xác và mức độ liên quan cao hơn. 
• LLM hoàn toàn tùy chỉnh: Một mô hình LLM chỉ có thể được phát triển từ đầu dựa trên kiến ​​thức chính xác và phù hợp với lĩnh vực của nó. Làm như vậy sẽ giúp người mẫu hiểu rõ hơn về các mối quan hệ và khuôn mẫu trong một chủ đề cụ thể. Điều này sẽ làm giảm khả năng xảy ra ảo giác, mặc dù không loại bỏ hoàn toàn. Tuy nhiên, việc xây dựng LLM của riêng mình tốn kém về mặt tính toán và đòi hỏi chuyên môn cao.

giám sát con người

Tốt nhất là nên kết hợp sự giám sát của con người bởi các chuyên gia về chủ đề kết hợp với các quy trình đánh giá mạnh mẽ để xác thực kết quả đầu ra do mô hình ngôn ngữ tạo ra, đặc biệt là trong các ứng dụng nhạy cảm hoặc có rủi ro cao, nơi ảo giác có thể gây ra hậu quả đáng kể, có thể giúp xử lý thông tin sai lệch rất nhiều. Người đánh giá có thể xác định và sửa văn bản gây ảo giác trước khi nó được phổ biến hoặc sử dụng trong các bối cảnh quan trọng.

Giáo dục và nhận thức chung cho người dùng

Giáo dục người dùng và các bên liên quan về những hạn chế và rủi ro của các mô hình ngôn ngữ, bao gồm cả khả năng tạo ra văn bản sai lệch, là rất quan trọng. Chúng ta nên khuyến khích người dùng đánh giá và xác minh kết quả đầu ra một cách cẩn thận, đặc biệt khi độ chính xác là điều cần thiết. Điều quan trọng là phải phát triển và tuân theo các nguyên tắc và chính sách đạo đức quản lý việc sử dụng mô hình ngôn ngữ, đặc biệt ở những lĩnh vực mà thông tin sai lệch có thể gây hại. Chúng ta phải thiết lập các nguyên tắc rõ ràng về việc sử dụng AI có trách nhiệm, bao gồm kiểm duyệt nội dung, phát hiện thông tin sai lệch và ngăn chặn nội dung phản cảm.

Nghiên cứu tiếp tục nhằm giảm thiểu ảo giác LLM thừa nhận rằng mặc dù việc loại bỏ hoàn toàn có thể là một thách thức nhưng việc thực hiện các biện pháp phòng ngừa có thể làm giảm đáng kể tần suất của chúng. Điều quan trọng là phải nhấn mạnh tầm quan trọng của việc tham gia có trách nhiệm và chu đáo với các hệ thống AI cũng như nâng cao nhận thức để duy trì sự cân bằng cần thiết trong việc sử dụng công nghệ một cách hiệu quả mà không gây hại.

Kết luận

Sự phổ biến của ảo giác trong Mô hình ngôn ngữ lớn (LLM) đặt ra một thách thức đáng kể mặc dù có nhiều nỗ lực thực nghiệm để giảm thiểu chúng. Mặc dù các chiến lược này mang lại những hiểu biết có giá trị nhưng câu hỏi cơ bản về việc loại bỏ hoàn toàn vẫn chưa được trả lời.

Tôi hy vọng bài viết này đã làm sáng tỏ những ảo giác trong LLM và cung cấp các chiến lược để giải quyết chúng. Hãy cho tôi biết suy nghĩ của bạn trong phần bình luận bên dưới.

Tham khảo:

[1] https://huggingface.co/spaces/vectara/leaderboard

• Phân phối nội dung và PR được hỗ trợ bởi SEO. Được khuếch đại ngay hôm nay.
• PlatoData.Network Vertical Generative Ai. Trao quyền cho chính mình. Truy cập Tại đây.
• PlatoAiStream. Thông minh Web3. Kiến thức khuếch đại. Truy cập Tại đây.
• Trung tâmESG. Than đá, công nghệ sạch, Năng lượng, Môi trường Hệ mặt trời, Quản lý chất thải. Truy cập Tại đây.
• PlatoSức khỏe. Tình báo thử nghiệm lâm sàng và công nghệ sinh học. Truy cập Tại đây.
• nguồn: https://www.analyticsvidhya.com/blog/2024/02/hallucinations-in-llms/