Hình ảnh được tạo bởi Tác giả với DALL·E 3
 

Chìa khóa chính

• Chuỗi mã (CoC) là một cách tiếp cận mới để tương tác với các mô hình ngôn ngữ, nâng cao khả năng suy luận thông qua sự kết hợp giữa viết mã và mô phỏng mã có chọn lọc.
• CoC mở rộng khả năng của các mô hình ngôn ngữ trong các nhiệm vụ logic, số học và ngôn ngữ, đặc biệt là những nhiệm vụ yêu cầu sự kết hợp của các kỹ năng này.
• Với CoC, các mô hình ngôn ngữ viết mã và cũng mô phỏng các phần không thể biên dịch được, đưa ra một cách tiếp cận độc đáo để giải quyết các vấn đề phức tạp.
• CoC cho thấy tính hiệu quả đối với cả LM lớn và nhỏ.

Ý tưởng chính là khuyến khích LM định dạng các nhiệm vụ phụ ngôn ngữ trong chương trình dưới dạng mã giả linh hoạt mà trình biên dịch có thể nắm bắt rõ ràng các hành vi không xác định và chuyển sang mô phỏng bằng LM (dưới dạng 'LMulator').

 
Các kỹ thuật nhắc nhở, giao tiếp và đào tạo mô hình ngôn ngữ mới (LM) tiếp tục xuất hiện để nâng cao khả năng suy luận và hiệu suất LM. Một sự nổi lên như vậy là sự phát triển của Chuỗi mã (CoC), một phương pháp nhằm nâng cao lý luận dựa trên mã trong LM. Kỹ thuật này là sự kết hợp giữa mã hóa truyền thống và mô phỏng sáng tạo việc thực thi mã LM, tạo ra một công cụ mạnh mẽ để giải quyết các nhiệm vụ lý luận số học và ngôn ngữ phức tạp.

CoC khác biệt bởi khả năng xử lý các vấn đề phức tạp kết hợp logic, số học và xử lý ngôn ngữ, điều mà người dùng LM đã biết từ khá lâu, từ lâu đã là một kỳ công đầy thách thức đối với các LM tiêu chuẩn. Hiệu quả của CoC không chỉ giới hạn ở các mô hình lớn mà còn mở rộng trên nhiều quy mô khác nhau, thể hiện tính linh hoạt và khả năng ứng dụng rộng rãi trong lý luận AI.

Hình 1: Cách tiếp cận chuỗi mã và so sánh quy trình (Hình ảnh từ giấy)

 
CoC là sự thay đổi mô hình về chức năng LM; đây không phải là một chiến thuật thúc đẩy đơn giản để tăng cơ hội nhận được phản hồi mong muốn từ LM. Thay vào đó, CoC xác định lại cách tiếp cận của LM đối với các nhiệm vụ lý luận nói trên.

Về cốt lõi, CoC cho phép LM không chỉ viết mã mà còn mô phỏng các phần của nó, đặc biệt là những khía cạnh không thể thực thi trực tiếp. Tính hai mặt này cho phép LM xử lý nhiều nhiệm vụ hơn, kết hợp các sắc thái ngôn ngữ với khả năng giải quyết vấn đề logic và số học. CoC có thể định dạng các tác vụ ngôn ngữ dưới dạng mã giả và thu hẹp khoảng cách giữa mã hóa truyền thống và lý luận AI một cách hiệu quả. Cầu nối này cho phép tạo ra một hệ thống linh hoạt và có khả năng giải quyết vấn đề phức tạp hơn. LMulator, một thành phần chính trong khả năng nâng cao của CoC, cho phép mô phỏng và giải thích đầu ra thực thi mã mà lẽ ra LM không có sẵn trực tiếp.

CoC đã cho thấy thành công đáng chú ý trên nhiều tiêu chuẩn khác nhau, vượt trội đáng kể so với các phương pháp tiếp cận hiện có như Chuỗi tư duy, đặc biệt trong các tình huống đòi hỏi sự kết hợp giữa lý luận ngôn ngữ và tính toán.

Các thử nghiệm chứng minh rằng Chuỗi mã vượt trội hơn Chuỗi tư duy và các đường cơ sở khác trên nhiều tiêu chuẩn khác nhau; trên BIG-Bench Hard, Chain of Code đạt 84%, tăng 12% so với Chain of Thought.

Hình 2: So sánh hiệu suất chuỗi mã (Hình ảnh từ giấy)

 
Việc triển khai CoC bao gồm một cách tiếp cận đặc biệt đối với các nhiệm vụ lý luận, tích hợp các quy trình mã hóa và mô phỏng. CoC khuyến khích LM định dạng các tác vụ suy luận phức tạp dưới dạng mã giả, sau đó được diễn giải và giải quyết. Quá trình này bao gồm nhiều bước:

1. Xác định nhiệm vụ suy luận: Xác định nhiệm vụ ngôn ngữ hoặc số học yêu cầu suy luận
2. Viết mã: LM viết mã giả hoặc đoạn mã linh hoạt để phác thảo giải pháp
3. Mô phỏng mã: Đối với các phần mã không thể thực thi trực tiếp, LM mô phỏng kết quả mong đợi, mô phỏng hiệu quả việc thực thi mã
4. Kết hợp các đầu ra: LM kết hợp các kết quả từ cả việc thực thi mã thực tế và mô phỏng của nó để tạo thành một giải pháp toàn diện cho vấn đề

Các bước này cho phép LM giải quyết nhiều câu hỏi lý luận hơn bằng cách “tư duy bằng mã”, từ đó nâng cao khả năng giải quyết vấn đề của họ.

LMulator, như một phần của khung CoC, có thể hỗ trợ đáng kể trong việc tinh chỉnh cả mã và lý luận theo một số cách cụ thể:

• Xác định và mô phỏng lỗi: Khi một mô hình ngôn ngữ viết mã có chứa lỗi hoặc các phần không thể thực thi, LMulator có thể mô phỏng cách mã này có thể hoạt động nếu nó chạy, đánh giá lại các lỗi logic, vòng lặp vô hạn hoặc các trường hợp đặc biệt và hướng dẫn LM để suy nghĩ lại và điều chỉnh logic mã.
• Xử lý các hành vi không xác định: Trong trường hợp mã liên quan đến hành vi không xác định hoặc mơ hồ mà trình thông dịch tiêu chuẩn không thể thực thi, LMulator sử dụng sự hiểu biết về ngữ cảnh và ý định của mô hình ngôn ngữ để suy ra đầu ra hoặc hành vi nên là gì, cung cấp đầu ra mô phỏng, hợp lý trong trường hợp truyền thống. việc thực hiện sẽ thất bại.
• Cải thiện lý luận trong mã: Khi cần kết hợp lý luận ngôn ngữ và tính toán, LMulator cho phép mô hình ngôn ngữ lặp lại quá trình tạo mã của chính nó, mô phỏng kết quả của nhiều cách tiếp cận khác nhau, 'lý luận' thông qua mã một cách hiệu quả, dẫn đến kết quả chính xác và hiệu quả hơn. các giải pháp.
• Khám phá trường hợp biên: LMulator có thể khám phá và kiểm tra cách mã xử lý các trường hợp biên bằng cách mô phỏng các đầu vào khác nhau, điều này đặc biệt hữu ích trong việc đảm bảo mã mạnh mẽ và có thể xử lý nhiều tình huống khác nhau.
• Vòng phản hồi cho việc học: Khi LMulator mô phỏng và xác định các vấn đề hoặc những cải tiến tiềm năng trong mã, mô hình ngôn ngữ có thể sử dụng phản hồi này để tìm hiểu và tinh chỉnh cách tiếp cận mã hóa và giải quyết vấn đề, đây là một quá trình học tập liên tục nhằm cải thiện khả năng mã hóa và suy luận của mô hình theo thời gian.

LMulator nâng cao khả năng viết, kiểm tra và tinh chỉnh mã của mô hình ngôn ngữ bằng cách cung cấp nền tảng để mô phỏng và cải tiến lặp lại.

 
Kỹ thuật CoC là một tiến bộ trong việc nâng cao khả năng suy luận của LM. CoC mở rộng phạm vi vấn đề mà LM có thể giải quyết bằng cách tích hợp tính năng viết mã với mô phỏng mã có chọn lọc. Cách tiếp cận này chứng tỏ tiềm năng của AI trong việc xử lý các nhiệm vụ thực tế phức tạp hơn, đòi hỏi tư duy đa sắc thái. Điều quan trọng là CoC đã được chứng minh là vượt trội ở cả LM nhỏ và lớn, tạo điều kiện cho ngày càng nhiều mô hình nhỏ hơn có khả năng cải thiện khả năng suy luận và đưa hiệu quả của chúng đến gần hơn với hiệu quả của các mô hình lớn hơn.

Để hiểu sâu hơn, tham khảo toàn văn bài báo tại đây.
 
 

Matthew Mayo (@ mattmayo13) có bằng Thạc sĩ về khoa học máy tính và bằng tốt nghiệp về khai thác dữ liệu. Với tư cách là Tổng biên tập của KDnuggets, Matthew đặt mục tiêu làm cho các khái niệm khoa học dữ liệu phức tạp có thể tiếp cận được. Mối quan tâm nghề nghiệp của anh bao gồm xử lý ngôn ngữ tự nhiên, thuật toán học máy và khám phá AI mới nổi. Anh ấy được thúc đẩy bởi sứ mệnh dân chủ hóa kiến ​​thức trong cộng đồng khoa học dữ liệu. Matthew đã viết mã từ năm 6 tuổi.

• Phân phối nội dung và PR được hỗ trợ bởi SEO. Được khuếch đại ngay hôm nay.
• PlatoData.Network Vertical Generative Ai. Trao quyền cho chính mình. Truy cập Tại đây.
• PlatoAiStream. Thông minh Web3. Kiến thức khuếch đại. Truy cập Tại đây.
• Trung tâmESG. Than đá, công nghệ sạch, Năng lượng, Môi trường Hệ mặt trời, Quản lý chất thải. Truy cập Tại đây.
• PlatoSức khỏe. Tình báo thử nghiệm lâm sàng và công nghệ sinh học. Truy cập Tại đây.
• nguồn: https://www.kdnuggets.com/enhancing-llm-reasoning-unveiling-chain-of-code-prompting?utm_source=rss&utm_medium=rss&utm_campaign=enhancing-llm-reasoning-unveiling-chain-of-code-prompting