Bài đăng này được đồng viết với Ilan Geller và Shuyu Yang từ Accenture.

Các doanh nghiệp ngày nay phải đối mặt với những thách thức lớn khi sử dụng cơ sở thông tin và kiến ​​thức của mình cho cả hoạt động kinh doanh nội bộ và bên ngoài. Với các hoạt động, quy trình, chính sách và yêu cầu tuân thủ không ngừng phát triển, nhân viên và khách hàng có thể gặp khó khăn trong việc cập nhật thông tin. Đồng thời, tính chất phi cấu trúc của phần lớn nội dung này khiến việc tìm câu trả lời bằng tìm kiếm truyền thống tốn nhiều thời gian.

Trong nội bộ, nhân viên thường có thể dành vô số thời gian để tìm kiếm thông tin họ cần để thực hiện công việc, dẫn đến sự thất vọng và giảm năng suất. Và khi không tìm được câu trả lời, họ phải trình bày vấn đề hoặc đưa ra quyết định mà không có bối cảnh đầy đủ, điều này có thể tạo ra rủi ro.

Ở bên ngoài, khách hàng cũng có thể cảm thấy khó chịu khi tìm thấy thông tin họ đang tìm kiếm. Mặc dù cơ sở kiến ​​thức doanh nghiệp theo thời gian đã cải thiện trải nghiệm của khách hàng nhưng chúng vẫn có thể cồng kềnh và khó sử dụng. Cho dù đang tìm kiếm câu trả lời cho câu hỏi liên quan đến sản phẩm hay cần thông tin về giờ và địa điểm hoạt động, trải nghiệm kém có thể dẫn đến sự thất vọng hoặc tệ hơn là khiến khách hàng bỏ đi.

Trong cả hai trường hợp, khi việc quản lý kiến ​​thức trở nên phức tạp hơn, AI mang lại cơ hội thay đổi cuộc chơi cho các doanh nghiệp trong việc kết nối mọi người với thông tin họ cần để thực hiện và đổi mới. Với chiến lược phù hợp, những giải pháp thông minh này có thể thay đổi cách nắm bắt, sắp xếp và sử dụng kiến ​​thức trong toàn tổ chức.

Để giúp giải quyết thách thức này, Accenture đã cộng tác với AWS để xây dựng một giải pháp AI mang tính sáng tạo có tên là Hỗ trợ kiến ​​thức. Bằng cách sử dụng các dịch vụ AI tổng hợp của AWS, nhóm đã phát triển một hệ thống có thể tiếp thu và hiểu được lượng lớn nội dung phi cấu trúc của doanh nghiệp.

Thay vì tìm kiếm từ khóa truyền thống, giờ đây người dùng có thể đặt câu hỏi và rút ra câu trả lời chính xác trong giao diện trò chuyện đơn giản. AI sáng tạo hiểu bối cảnh và mối quan hệ trong cơ sở kiến ​​thức để đưa ra phản hồi chính xác và được cá nhân hóa. Khi xử lý nhiều truy vấn hơn, hệ thống sẽ liên tục cải thiện khả năng xử lý ngôn ngữ thông qua thuật toán học máy (ML).

Kể từ khi ra mắt khung hỗ trợ AI này, các công ty đã nhận thấy sự cải thiện đáng kể về năng suất và khả năng lưu giữ kiến ​​thức của nhân viên. Bằng cách cung cấp quyền truy cập thông tin nhanh chóng và chính xác, đồng thời cho phép nhân viên tự phục vụ, giải pháp này giúp giảm hơn 50% thời gian đào tạo cho nhân viên mới và cắt giảm tới 40%.

Với sức mạnh của AI, doanh nghiệp có thể thay đổi cách nắm bắt, sắp xếp và chia sẻ kiến ​​thức trong toàn tổ chức. Bằng cách mở khóa nền tảng kiến ​​thức hiện có, các công ty có thể tăng năng suất của nhân viên và sự hài lòng của khách hàng. Như sự hợp tác của Accenture với AWS đã chứng minh, tương lai của quản lý tri thức doanh nghiệp nằm ở các hệ thống do AI điều khiển phát triển thông qua tương tác giữa con người và máy móc.

Accenture đang hợp tác với AWS để giúp khách hàng triển khai nền tảng Amazon, sử dụng các mô hình nền tảng tiên tiến nhất như người khổng lồ Amazonvà triển khai các công nghệ hàng đầu trong ngành như Khởi động Amazon SageMaker và Suy luận Amazon cùng với các dịch vụ AWS ML khác.

Bài đăng này cung cấp thông tin tổng quan về giải pháp AI tổng hợp toàn diện do Accenture phát triển cho trường hợp sử dụng sản xuất bằng cách sử dụng Amazon Bedrock và các dịch vụ AWS khác.

Tổng quan về giải pháp

Một khách hàng lớn của ngành y tế công cộng phục vụ hàng triệu công dân mỗi ngày và họ yêu cầu khả năng truy cập dễ dàng vào thông tin cập nhật trong bối cảnh y tế luôn thay đổi. Accenture đã tích hợp chức năng AI tổng quát này vào bot Câu hỏi thường gặp hiện có, cho phép chatbot cung cấp câu trả lời cho nhiều câu hỏi hơn của người dùng. Tăng khả năng cho người dân truy cập thông tin thích hợp theo cách tự phục vụ giúp tiết kiệm thời gian và tiền bạc của bộ phận, giảm nhu cầu tương tác với nhân viên trung tâm cuộc gọi. Các tính năng chính của giải pháp bao gồm:

• Phương pháp tiếp cận mục đích kết hợp – Sử dụng các ý định tổng quát và được đào tạo trước
• Hỗ trợ đa ngôn ngữ – Giao tiếp bằng tiếng Anh và tiếng Tây Ban Nha
• Phân tích hội thoại – Báo cáo về nhu cầu, tình cảm và mối quan tâm của người dùng
• Những cuộc trò chuyện tự nhiên – Duy trì bối cảnh với xử lý ngôn ngữ tự nhiên giống con người (NLP)
• Trích dẫn minh bạch – Hướng dẫn người dùng tìm nguồn thông tin

Giải pháp AI tổng quát của Accenture cung cấp những ưu điểm sau so với các khung chatbot truyền thống hoặc hiện có:

• Tạo ra phản hồi chính xác, phù hợp và tự nhiên cho các truy vấn của người dùng một cách nhanh chóng
• Ghi nhớ ngữ cảnh và trả lời các câu hỏi tiếp theo
• Xử lý các truy vấn và tạo phản hồi bằng nhiều ngôn ngữ (chẳng hạn như tiếng Anh và tiếng Tây Ban Nha)
• Liên tục học hỏi và cải thiện phản hồi dựa trên phản hồi của người dùng
• Có thể dễ dàng tích hợp với nền tảng web hiện tại của bạn
• Sử dụng một kho lưu trữ khổng lồ về cơ sở kiến ​​thức doanh nghiệp
• Trả lời theo cách giống con người
• Sự phát triển của kiến ​​thức liên tục có sẵn với nỗ lực tối thiểu hoặc không cần nỗ lực
• Sử dụng mô hình trả tiền khi bạn sử dụng mà không phải trả chi phí trả trước

Quy trình làm việc cấp cao của giải pháp này bao gồm các bước sau:

1. Người dùng tạo sự tích hợp đơn giản với các nền tảng web hiện có.​
2. Dữ liệu được đưa vào nền tảng dưới dạng tải lên hàng loạt vào ngày 0 và sau đó tải lên tăng dần vào ngày 1+.​
3. Các truy vấn của người dùng được xử lý theo thời gian thực với khả năng mở rộng hệ thống theo yêu cầu để đáp ứng nhu cầu của người dùng.
4. Cuộc hội thoại được lưu trong cơ sở dữ liệu ứng dụng (Cơ sở dữ liệu Amazon Dynamo) để hỗ trợ các cuộc hội thoại nhiều vòng.​
5. Mô hình nền tảng Anthropic Claude được gọi thông qua Amazon Bedrock, được sử dụng để tạo phản hồi truy vấn dựa trên nội dung phù hợp nhất.
6. Mô hình nền tảng Anthropic Claude được sử dụng để dịch các truy vấn cũng như câu trả lời từ tiếng Anh sang các ngôn ngữ mong muốn khác nhằm hỗ trợ các cuộc hội thoại đa ngôn ngữ.
7. Mô hình nền tảng Amazon Titan được gọi thông qua Amazon Bedrock để tạo ra các vectơ nhúng.
8. Mức độ liên quan của nội dung được xác định thông qua sự giống nhau của các phần nhúng nội dung thô và phần nhúng truy vấn của người dùng bằng cách sử dụng các phần nhúng cơ sở dữ liệu vectơ Pinecone.​
9. Ngữ cảnh cùng với câu hỏi của người dùng được thêm vào để tạo lời nhắc, được cung cấp làm đầu vào cho mô hình Anthropic Claude. Phản hồi được tạo sẽ được cung cấp lại cho người dùng thông qua nền tảng web.

Sơ đồ sau minh họa kiến ​​trúc giải pháp.

Dòng chảy kiến ​​trúc có thể được hiểu thành hai phần:

Trong các phần sau, chúng tôi thảo luận chi tiết hơn về các khía cạnh khác nhau của giải pháp và sự phát triển của nó.

Lựa chọn mô hình

Quá trình lựa chọn mô hình bao gồm thử nghiệm hồi quy của nhiều mô hình khác nhau có sẵn trong Amazon Bedrock, bao gồm các mô hình nền tảng AI21 Labs, Cohere, Anthropic và Amazon. Chúng tôi đã kiểm tra các trường hợp sử dụng được hỗ trợ, thuộc tính mô hình, mã thông báo tối đa, chi phí, độ chính xác, hiệu suất và ngôn ngữ. Dựa trên điều này, chúng tôi đã chọn Claude-2 phù hợp nhất cho trường hợp sử dụng này.

Nguồn dữ liệu

Chúng tôi đã tạo chỉ mục Amazon Kendra và thêm nguồn dữ liệu bằng cách sử dụng trình kết nối trình thu thập dữ liệu web với URL web gốc và độ sâu thư mục ở hai cấp độ. Một số trang web đã được đưa vào chỉ mục Amazon Kendra và được sử dụng làm nguồn dữ liệu.

Quy trình yêu cầu và phản hồi chatbot GenAI

Các bước trong quy trình này bao gồm sự tương tác từ đầu đến cuối với yêu cầu từ Amazon và phản hồi từ mô hình ngôn ngữ lớn (LLM):

1. Người dùng gửi yêu cầu đến ứng dụng giao diện người dùng đàm thoại được lưu trữ trong một Dịch vụ lưu trữ đơn giản của Amazon (Amazon S3) vượt qua Amazon Route 53 và Amazon CloudFront.
2. Amazon Lex hiểu ý định và chuyển yêu cầu đến người điều phối được lưu trữ trong một AWS Lambda chức năng.
3. Hàm Lambda của trình điều phối thực hiện các bước sau:
   1. Hàm này tương tác với cơ sở dữ liệu ứng dụng được lưu trữ trong cơ sở dữ liệu do DynamoDB quản lý. Cơ sở dữ liệu lưu trữ ID phiên và ID người dùng cho lịch sử hội thoại.
   2. Một yêu cầu khác được gửi đến chỉ mục Amazon Kendra để nhận được XNUMX kết quả tìm kiếm có liên quan hàng đầu nhằm xây dựng bối cảnh liên quan. Sử dụng ngữ cảnh này, lời nhắc sửa đổi được xây dựng cần thiết cho mô hình LLM.
   3. Kết nối được thiết lập giữa Amazon Bedrock và người điều phối. Một yêu cầu được đăng lên mô hình Amazon Bedrock Claude-2 để nhận phản hồi từ mô hình LLM đã chọn.
4. Dữ liệu được xử lý sau từ phản hồi LLM và phản hồi sẽ được gửi đến người dùng.

Báo cáo trực tuyến

Quy trình báo cáo trực tuyến bao gồm các bước sau:

1. Người dùng cuối tương tác với chatbot thông qua lớp giao diện người dùng CDN của CloudFront.
2. Mỗi tương tác yêu cầu/phản hồi đều được AWS SDK hỗ trợ và gửi lưu lượng mạng đến Amazon Lex (thành phần NLP của bot).
3. Siêu dữ liệu về các cặp yêu cầu/phản hồi được ghi vào amazoncloudwatch.
4. Nhóm nhật ký CloudWatch được định cấu hình bằng bộ lọc đăng ký gửi nhật ký vào Dịch vụ Tìm kiếm Mở của Amazon.
5. Sau khi có sẵn trong Dịch vụ OpenSearch, nhật ký có thể được sử dụng để tạo báo cáo và trang tổng quan bằng Kibana.

Kết luận

Trong bài đăng này, chúng tôi đã giới thiệu cách Accenture đang sử dụng các dịch vụ AI tổng hợp của AWS để triển khai phương pháp tiếp cận toàn diện hướng tới chuyển đổi kỹ thuật số. Chúng tôi đã xác định những lỗ hổng trong nền tảng trả lời câu hỏi truyền thống và trí thông minh tổng hợp tăng cường trong khuôn khổ của nó để có thời gian phản hồi nhanh hơn và liên tục cải thiện hệ thống trong khi tương tác với người dùng trên toàn cầu. Hãy liên hệ với nhóm Trung tâm Xuất sắc Accenture để tìm hiểu sâu hơn về giải pháp và triển khai giải pháp này cho khách hàng của bạn.

Nền tảng Hỗ trợ Kiến thức này có thể được áp dụng cho các ngành khác nhau, bao gồm nhưng không giới hạn ở khoa học sức khỏe, dịch vụ tài chính, sản xuất, v.v. Nền tảng này cung cấp các câu trả lời tự nhiên, giống con người cho các câu hỏi sử dụng kiến ​​thức được bảo mật. Nền tảng này mang lại hiệu quả, năng suất và các hành động chính xác hơn mà người dùng có thể thực hiện.

Nỗ lực chung được xây dựng dựa trên mối quan hệ chiến lược 15 năm giữa các công ty và sử dụng các cơ chế và động lực tăng tốc đã được chứng minh tương tự được xây dựng bởi Accenture Nhóm kinh doanh AWS (AABG).

Kết nối với nhóm AABG tại voiceureaws@amazon.com để thúc đẩy kết quả kinh doanh bằng cách chuyển đổi sang doanh nghiệp dữ liệu thông minh trên AWS.

Để biết thêm thông tin về AI tổng hợp trên AWS bằng cách sử dụng Amazon Bedrock hoặc Amazon SageMaker, chúng tôi đề xuất các tài nguyên sau:

Quý vị cũng có thể đăng ký nhận bản tin AI tổng hợp của AWS, bao gồm các tài nguyên giáo dục, blog và cập nhật dịch vụ.

Về các tác giả

Ilan Geller là Giám đốc điều hành tại Accenture, tập trung vào Trí tuệ nhân tạo, giúp khách hàng mở rộng quy mô ứng dụng Trí tuệ nhân tạo và Trưởng nhóm đối tác GenAI COE toàn cầu cho AWS.

Thư Dương là Trưởng nhóm phân phối mô hình ngôn ngữ lớn và AI sáng tạo, đồng thời cũng lãnh đạo các nhóm Accenture AI (AWS DevOps professional) CoE (Trung tâm xuất sắc).

Shikhar Kwatra là kiến ​​trúc sư giải pháp chuyên môn AI/ML tại Amazon Web Services, làm việc với Nhà tích hợp hệ thống toàn cầu hàng đầu. Anh đã giành được danh hiệu Một trong những Nhà phát minh bậc thầy Ấn Độ trẻ nhất với hơn 500 bằng sáng chế trong lĩnh vực AI/ML và IoT. Shikhar hỗ trợ kiến ​​trúc, xây dựng và duy trì môi trường đám mây có khả năng mở rộng, tiết kiệm chi phí cho tổ chức, đồng thời hỗ trợ đối tác GSI xây dựng các giải pháp chiến lược ngành trên AWS.

Jay Pillai là Kiến trúc sư giải pháp chính tại Amazon Web Services. Với vai trò này, anh ấy đóng vai trò là Kiến trúc sư trưởng về AI sáng tạo toàn cầu và cũng là Kiến trúc sư trưởng về Giải pháp chuỗi cung ứng của AABG. Với tư cách là Nhà lãnh đạo Công nghệ Thông tin, Jay chuyên về trí tuệ nhân tạo, tích hợp dữ liệu, kinh doanh thông minh và các lĩnh vực giao diện người dùng. Ông có 23 năm kinh nghiệm làm việc với nhiều khách hàng trong chuỗi cung ứng, công nghệ pháp lý, bất động sản, dịch vụ tài chính, bảo hiểm, thanh toán và các lĩnh vực kinh doanh nghiên cứu thị trường.

Karthik Sonti dẫn đầu một nhóm Kiến trúc sư giải pháp toàn cầu tập trung vào việc lên ý tưởng, xây dựng và triển khai các giải pháp theo chiều ngang, chức năng và chiều dọc với Accenture để giúp các khách hàng chung của chúng tôi chuyển đổi hoạt động kinh doanh của họ theo cách khác biệt trên AWS.

• Phân phối nội dung và PR được hỗ trợ bởi SEO. Được khuếch đại ngay hôm nay.
• PlatoData.Network Vertical Generative Ai. Trao quyền cho chính mình. Truy cập Tại đây.
• PlatoAiStream. Thông minh Web3. Kiến thức khuếch đại. Truy cập Tại đây.
• Trung tâmESG. Than đá, công nghệ sạch, Năng lượng, Môi trường Hệ mặt trời, Quản lý chất thải. Truy cập Tại đây.
• PlatoSức khỏe. Tình báo thử nghiệm lâm sàng và công nghệ sinh học. Truy cập Tại đây.
• nguồn: https://aws.amazon.com/blogs/machine-learning/accenture-creates-a-knowledge-assist-solution-using-generative-ai-services-on-aws/