Logo Zephyrnet

Các khả năng mới đáng kể giúp việc sử dụng Amazon Bedrock để xây dựng và mở rộng quy mô các ứng dụng AI tổng hợp trở nên dễ dàng hơn – đồng thời đạt được kết quả ấn tượng | Dịch vụ web của Amazon

Ngày:

Chúng tôi đã giới thiệu Amazon Bedrock với thế giới hơn một năm trước, mang đến một cách hoàn toàn mới để xây dựng các ứng dụng trí tuệ nhân tạo (AI) tổng hợp. Với sự lựa chọn đa dạng nhất về các mô hình nền tảng (FM) của bên thứ nhất và bên thứ ba cũng như các khả năng thân thiện với người dùng, Amazon Bedrock là cách nhanh nhất và dễ dàng nhất để xây dựng và mở rộng quy mô các ứng dụng AI tổng hợp an toàn. Hiện có hàng chục nghìn khách hàng đang sử dụng Amazon Bedrock để xây dựng và mở rộng quy mô các ứng dụng ấn tượng. Họ đang đổi mới nhanh chóng, dễ dàng và an toàn để thúc đẩy các chiến lược AI của mình. Và chúng tôi đang hỗ trợ những nỗ lực của họ bằng cách cải tiến Amazon Bedrock bằng các khả năng mới thú vị, bao gồm nhiều lựa chọn mô hình hơn và các tính năng giúp chọn mô hình phù hợp dễ dàng hơn, tùy chỉnh mô hình cho trường hợp sử dụng cụ thể cũng như bảo vệ và mở rộng quy mô ứng dụng AI tổng hợp.

Khách hàng ở nhiều ngành khác nhau, từ tài chính, du lịch, khách sạn, chăm sóc sức khỏe đến công nghệ tiêu dùng đều đang có những tiến bộ đáng kể. Họ đang hiện thực hóa giá trị kinh doanh thực sự bằng cách nhanh chóng chuyển các ứng dụng AI tổng quát vào sản xuất để cải thiện trải nghiệm của khách hàng và tăng hiệu quả hoạt động. Hãy xem xét Sở giao dịch chứng khoán New York (NYSE), thị trường vốn lớn nhất thế giới xử lý hàng tỷ giao dịch mỗi ngày. NYSE đang tận dụng sự lựa chọn FM và khả năng tạo AI tiên tiến của Amazon Bedrock trong một số trường hợp sử dụng, bao gồm cả việc xử lý hàng nghìn trang quy định để cung cấp câu trả lời bằng ngôn ngữ dễ hiểu

Hãng hàng không toàn cầu United Airlines đã hiện đại hóa Hệ thống dịch vụ hành khách của họ để dịch mã đặt chỗ hành khách cũ sang tiếng Anh đơn giản để các đại lý có thể hỗ trợ khách hàng nhanh chóng và hiệu quả. LexisNexis Legal & Professional, nhà cung cấp thông tin và phân tích hàng đầu thế giới, đã phát triển trợ lý AI tạo ra pháp lý được cá nhân hóa trên Lexis+ AI. Khách hàng của LexisNexis nhận được kết quả đáng tin cậy nhanh hơn hai lần so với sản phẩm cạnh tranh gần nhất và có thể tiết kiệm tới năm giờ mỗi tuần cho việc nghiên cứu và tóm tắt pháp lý. Và HappyFox, một phần mềm trợ giúp trực tuyến, đã chọn Amazon Bedrock vì tính bảo mật và hiệu suất của nó, giúp tăng hiệu suất của hệ thống yêu cầu tự động được hỗ trợ bởi AI trong giải pháp hỗ trợ khách hàng lên 40% và năng suất của đại lý lên 30%.

Và trên khắp Amazon, chúng tôi đang tiếp tục đổi mới với AI tổng quát để mang lại trải nghiệm hấp dẫn, chân thực hơn cho khách hàng của mình. Mới tuần trước Amazon Music đã công bố Maestro. Maestro là trình tạo danh sách phát AI được cung cấp bởi Amazon Bedrock, mang đến cho người đăng ký Amazon Music một cách dễ dàng hơn, thú vị hơn để tạo danh sách phát dựa trên lời nhắc. Maestro hiện đang triển khai phiên bản beta cho một số ít khách hàng Hoa Kỳ trên tất cả các cấp độ của Amazon Music.

Với Amazon Bedrock, chúng tôi tập trung vào các lĩnh vực chính mà khách hàng cần để xây dựng các ứng dụng AI tổng hợp cấp doanh nghiệp, sẵn sàng sản xuất với chi phí và tốc độ phù hợp. Hôm nay, tôi rất vui được chia sẻ các tính năng mới mà chúng tôi sắp công bố trên các lĩnh vực lựa chọn mô hình, công cụ để xây dựng các ứng dụng AI tổng hợp cũng như quyền riêng tư và bảo mật.

1. Amazon Bedrock mở rộng lựa chọn mô hình với các mô hình Llama 3 và giúp bạn tìm ra mô hình tốt nhất cho nhu cầu của mình

Trong những ngày đầu này, khách hàng vẫn đang tìm hiểu và thử nghiệm các mô hình khác nhau để xác định mô hình nào sẽ sử dụng cho các mục đích khác nhau. Họ muốn có thể dễ dàng dùng thử các mẫu mới nhất cũng như kiểm tra khả năng và tính năng nào sẽ mang lại cho họ kết quả tốt nhất cũng như đặc điểm chi phí cho trường hợp sử dụng của họ. Phần lớn khách hàng của Amazon Bedrock sử dụng nhiều mô hình và Amazon Bedrock cung cấp nhiều lựa chọn nhất về mô hình ngôn ngữ lớn (LLM) của bên thứ nhất và bên thứ ba cũng như các FM khác. Điều này bao gồm các mô hình từ Phòng thí nghiệm AI21, nhân loại, Mạch lạc, Siêu dữ liệu, trí tuệ nhân tạoAI ổn định, cũng như của chúng tôi Mô hình Amazon Titan. Trên thực tế, Joel Hron, người đứng đầu AI và Thomson Reuters Labs tại Thomson Reuters gần đây cho biết điều này về việc họ áp dụng Amazon Bedrock, "Có khả năng sử dụng nhiều loại mô hình khác nhau khi chúng ra mắt là động lực chính đối với chúng tôi, đặc biệt là khi không gian này đang phát triển nhanh như thế nào." Các mô hình tiên tiến của dòng mô hình Mistral AI bao gồm Mistral 7B, Hỗn hợp 8x7BMistral Lớn khiến khách hàng hào hứng với hiệu suất cao trong việc tạo văn bản, tóm tắt, hỏi đáp và tạo mã. Kể từ khi chúng tôi giới thiệu dòng mô hình Anthropic Claude 3, hàng nghìn khách hàng đã trải nghiệm cách Claude 3 Haiku, Sonnet và Opus thiết lập các tiêu chuẩn mới về các nhiệm vụ nhận thức với trí thông minh, tốc độ và hiệu quả chi phí vô song. Sau lần đánh giá ban đầu bằng cách sử dụng Claude 3 Haiku và Opus trong Amazon Bedrock, BlueOcean.ai, một nền tảng phân tích thương hiệu, đã thấy chi phí giảm hơn 50% khi họ có thể hợp nhất bốn lệnh gọi API riêng biệt thành một lệnh gọi duy nhất hiệu quả hơn.

Masahiro Oba, Tổng Giám đốc, Nhóm Quản trị Liên bang Nền tảng DX tại tập đoàn Sony Group chia sẻ,

“Mặc dù có nhiều thách thức khi áp dụng AI tổng quát vào doanh nghiệp, nhưng khả năng đa dạng của Amazon Bedrock giúp chúng tôi điều chỉnh các ứng dụng AI tổng thể cho phù hợp với hoạt động kinh doanh của Sony. Chúng tôi có thể tận dụng không chỉ các khả năng LLM mạnh mẽ của Claude 3 mà còn cả các khả năng giúp chúng tôi bảo vệ các ứng dụng ở cấp doanh nghiệp. Tôi thực sự tự hào khi được làm việc với nhóm Bedrock để dân chủ hóa hơn nữa công nghệ AI trong Tập đoàn Sony.”

Gần đây tôi đã ngồi nói chuyện với Aaron Linsky, CTO của Phòng thí nghiệm liên kết đầu tư nhân tạo tại Bridgewater Associates, một công ty quản lý tài sản hàng đầu, nơi họ đang sử dụng AI sáng tạo để nâng cao “Cộng tác viên đầu tư nhân tạo”, một bước tiến lớn cho khách hàng của họ. Nó được xây dựng dựa trên kinh nghiệm của họ trong việc đưa ra lời khuyên chuyên môn dựa trên các quy tắc để đưa ra quyết định đầu tư. Với Amazon Bedrock, họ có thể sử dụng FM tốt nhất hiện có, chẳng hạn như Claude 3, cho các nhiệm vụ khác nhau - kết hợp hiểu biết cơ bản về thị trường với khả năng suy luận linh hoạt của AI. Amazon Bedrock cho phép thử nghiệm mô hình liền mạch, cho phép Bridgewater xây dựng một hệ thống đầu tư mạnh mẽ, tự cải thiện, kết hợp lời khuyên có hệ thống với các khả năng tiên tiến – tạo ra một quy trình phát triển ưu tiên AI.

Để mang đến nhiều lựa chọn mẫu mã hơn cho khách hàng, hôm nay, chúng tôi đang thực hiện Các mẫu Meta Llama 3 có sẵn trên Amazon Bedrock. Các mẫu Llama 3 3B và Llama 8 3B của Llama 70 được thiết kế để xây dựng, thử nghiệm và mở rộng quy mô các ứng dụng AI tổng hợp một cách có trách nhiệm. Các mô hình này đã được cải thiện đáng kể so với kiến ​​trúc mô hình trước đó, bao gồm cả việc mở rộng quy mô đào tạo trước cũng như các phương pháp tinh chỉnh hướng dẫn. Llama 3 8B vượt trội trong việc tóm tắt, phân loại, phân tích cảm xúc và dịch thuật văn bản, lý tưởng cho các nguồn lực hạn chế và các thiết bị biên. Llama 3 70B tỏa sáng trong việc tạo nội dung, AI đàm thoại, hiểu ngôn ngữ, R&D, doanh nghiệp, tóm tắt chính xác, phân loại/phân tích cảm xúc theo sắc thái, mô hình hóa ngôn ngữ, hệ thống đối thoại, tạo mã và hướng dẫn theo sau. Đọc thêm về Meta Llama 3 hiện có sẵn trên Amazon Bedrock.

Chúng tôi cũng sẽ thông báo sắp có hỗ trợ cho FM doanh nghiệp Command R và Command R+ của Cohere. Các mô hình này có khả năng mở rộng cao và được tối ưu hóa cho các tác vụ có ngữ cảnh dài như tạo tăng cường truy xuất (RAG) với các trích dẫn để giảm thiểu ảo giác, sử dụng công cụ nhiều bước để tự động hóa các tác vụ kinh doanh phức tạp và hỗ trợ 10 ngôn ngữ cho các hoạt động toàn cầu. Command R+ là mô hình mạnh mẽ nhất của Cohere được tối ưu hóa cho các tác vụ có ngữ cảnh dài, trong khi Command R được tối ưu hóa cho khối lượng công việc sản xuất quy mô lớn. Với các mô hình Cohere sắp ra mắt trên Amazon Bedrock, các doanh nghiệp có thể xây dựng các ứng dụng AI tổng hợp cấp doanh nghiệp giúp cân bằng độ chính xác và hiệu quả cao cho các hoạt động AI hàng ngày ngoài bằng chứng khái niệm.

Amazon Titan Image Generator hiện đã có sẵn rộng rãi và Amazon Titan Text Embeddings V2 sắp ra mắt

Ngoài việc bổ sung các mô hình 3P có khả năng hoạt động tốt nhất, Amazon Titan Image Generator hiện đã có sẵn rộng rãi. Với Amazon Titan Image Generator, khách hàng trong các ngành như quảng cáo, thương mại điện tử, truyền thông và giải trí có thể tạo ra hình ảnh chân thực, chất lượng studio một cách hiệu quả với số lượng lớn và chi phí thấp bằng cách sử dụng lời nhắc bằng ngôn ngữ tự nhiên. Họ có thể chỉnh sửa hình ảnh đã tạo hoặc hình ảnh hiện có bằng cách sử dụng lời nhắc văn bản, định cấu hình kích thước hình ảnh hoặc chỉ định số lượng biến thể hình ảnh để hướng dẫn mô hình. Theo mặc định, mọi hình ảnh do Amazon Titan Image Generator tạo ra đều chứa hình mờ vô hình, phù hợp với cam kết của AWS trong việc thúc đẩy AI có trách nhiệm và có đạo đức bằng cách giảm sự lan truyền thông tin sai lệch. Tính năng Phát hiện hình mờ xác định hình ảnh được tạo bởi Image Generator và được thiết kế để chống giả mạo, giúp tăng tính minh bạch xung quanh nội dung do AI tạo ra. Tính năng Phát hiện hình mờ giúp giảm thiểu rủi ro về sở hữu trí tuệ và cho phép người tạo nội dung, tổ chức tin tức, nhà phân tích rủi ro, nhóm phát hiện gian lận và những người khác xác định và giảm thiểu việc phổ biến nội dung sai lệch do AI tạo ra. Đọc thêm về Phát hiện hình mờ cho Trình tạo hình ảnh Titan.

Sắp ra mắt, Amazon Titan Text Embeddings V2 mang lại những phản hồi phù hợp hơn một cách hiệu quả cho các trường hợp sử dụng quan trọng của doanh nghiệp như tìm kiếm. Các mô hình nhúng hiệu quả có vai trò quan trọng đối với hiệu suất khi tận dụng RAG để làm phong phú thêm các phản hồi bằng thông tin bổ sung. Embeddings V2 được tối ưu hóa cho quy trình làm việc RAG và cung cấp khả năng tích hợp liền mạch với Cơ sở kiến ​​thức về Amazon Bedrock để đưa ra những phản hồi mang tính thông tin và phù hợp hơn một cách hiệu quả. Nhúng V2 cho phép hiểu sâu hơn về mối quan hệ dữ liệu cho các tác vụ phức tạp như truy xuất, phân loại, tìm kiếm tương tự về ngữ nghĩa và nâng cao mức độ liên quan của tìm kiếm. Cung cấp các kích thước nhúng linh hoạt gồm 256, 512 và 1024, Embeddings V2 ưu tiên giảm chi phí trong khi vẫn giữ được độ chính xác 97% cho các trường hợp sử dụng RAG, vượt trội so với các mô hình hàng đầu khác. Ngoài ra, kích thước nhúng linh hoạt đáp ứng nhu cầu ứng dụng đa dạng, từ triển khai di động có độ trễ thấp đến quy trình làm việc không đồng bộ có độ chính xác cao.

Đánh giá mô hình mới đơn giản hóa quá trình truy cập, so sánh và lựa chọn LLM và FM

Chọn mô hình phù hợp là bước quan trọng đầu tiên để xây dựng bất kỳ ứng dụng AI tổng hợp nào. LLM có thể thay đổi đáng kể về hiệu suất dựa trên nhiệm vụ, miền, phương thức dữ liệu và các yếu tố khác. Ví dụ: một mô hình y sinh có khả năng hoạt động tốt hơn các mô hình chăm sóc sức khỏe nói chung trong bối cảnh y tế cụ thể, trong khi mô hình mã hóa có thể phải đối mặt với những thách thức với các tác vụ xử lý ngôn ngữ tự nhiên. Việc sử dụng một mô hình quá mạnh có thể dẫn đến việc sử dụng tài nguyên không hiệu quả, trong khi một mô hình kém hiệu quả có thể không đáp ứng được các tiêu chuẩn hiệu suất tối thiểu – có khả năng mang lại kết quả không chính xác. Và việc lựa chọn một FM không phù hợp khi bắt đầu dự án có thể làm suy yếu niềm tin và sự tin cậy của các bên liên quan.

Với rất nhiều mẫu mã để lựa chọn, chúng tôi muốn giúp khách hàng dễ dàng lựa chọn mẫu phù hợp với mục đích sử dụng của mình hơn.

Công cụ đánh giá mô hình của Amazon Bedrock hiện đã có sẵn rộng rãi, đơn giản hóa quy trình lựa chọn bằng cách cho phép đo điểm chuẩn và so sánh với các bộ dữ liệu và số liệu đánh giá cụ thể, đảm bảo các nhà phát triển chọn mô hình phù hợp nhất với mục tiêu dự án của họ. Trải nghiệm có hướng dẫn này cho phép các nhà phát triển đánh giá các mô hình theo các tiêu chí phù hợp với từng trường hợp sử dụng. Thông qua Đánh giá mô hình, các nhà phát triển chọn các mô hình ứng cử viên để đánh giá - tùy chọn công khai, mô hình tùy chỉnh được nhập hoặc phiên bản tinh chỉnh. Họ xác định các nhiệm vụ kiểm tra, bộ dữ liệu và số liệu đánh giá có liên quan, chẳng hạn như độ chính xác, độ trễ, dự báo chi phí và các yếu tố định tính. Đọc thêm về Đánh giá mô hình trong Amazon Bedrock.

Khả năng chọn từ các FM có hiệu suất cao nhất trong Amazon Bedrock cực kỳ có lợi cho Elastic Security. James Spiteri, Giám đốc Quản lý Sản phẩm tại Elastic chia sẻ,

“Chỉ với một vài cú nhấp chuột, chúng tôi có thể đánh giá một lời nhắc trên nhiều mô hình cùng một lúc. Chức năng đánh giá mô hình này cho phép chúng tôi so sánh kết quả đầu ra, số liệu và chi phí liên quan giữa các mô hình khác nhau, cho phép chúng tôi đưa ra quyết định sáng suốt về mô hình nào phù hợp nhất với những gì chúng tôi đang cố gắng đạt được. Điều này đã hợp lý hóa đáng kể quy trình của chúng tôi, giúp chúng tôi tiết kiệm một lượng thời gian đáng kể trong việc triển khai các ứng dụng của mình vào sản xuất.”

2. Amazon Bedrock cung cấp khả năng điều chỉnh AI tổng hợp phù hợp với nhu cầu kinh doanh của bạn

Mặc dù các mô hình cực kỳ quan trọng nhưng cần nhiều hơn một mô hình để xây dựng một ứng dụng hữu ích cho tổ chức. Đó là lý do tại sao Amazon Bedrock có khả năng giúp bạn dễ dàng điều chỉnh các giải pháp AI tổng thể cho phù hợp với các trường hợp sử dụng cụ thể. Khách hàng có thể sử dụng dữ liệu của riêng mình để tùy chỉnh ứng dụng một cách riêng tư thông qua tinh chỉnh hoặc bằng cách sử dụng Cơ sở Kiến thức để có trải nghiệm RAG được quản lý hoàn toàn nhằm đưa ra phản hồi phù hợp, chính xác và tùy chỉnh hơn. Đại lý cho Amazon Bedrock cho phép nhà phát triển xác định các nhiệm vụ, quy trình công việc hoặc quy trình ra quyết định cụ thể, tăng cường khả năng kiểm soát và tự động hóa đồng thời đảm bảo sự liên kết nhất quán với trường hợp sử dụng dự kiến. Bắt đầu hôm nay, bây giờ bạn có thể sử dụng Đại lý với các mô hình Anthropic Claude 3 Haiku và Sonnet. Chúng tôi cũng giới thiệu trải nghiệm bảng điều khiển AWS cập nhật, hỗ trợ sơ đồ đơn giản hóa và trả lại quyền kiểm soát để giúp các nhà phát triển bắt đầu dễ dàng. Đọc thêm về Đại lý cho Amazon Bedrock, giờ đây sử dụng nhanh hơn và dễ dàng hơn.

Với Nhập mô hình tùy chỉnh mới, khách hàng có thể tận dụng toàn bộ khả năng của Amazon Bedrock với các mô hình của riêng họ

Tất cả các tính năng này đều cần thiết để xây dựng các ứng dụng AI tổng quát, đó là lý do tại sao chúng tôi muốn cung cấp chúng cho nhiều khách hàng hơn nữa, bao gồm cả những người đã đầu tư nguồn lực đáng kể vào việc tinh chỉnh LLM bằng dữ liệu của riêng họ trên các dịch vụ khác nhau hoặc đào tạo các mô hình tùy chỉnh từ cào. Nhiều khách hàng có sẵn các mô hình tùy chỉnh trên Amazon SageMaker, nơi cung cấp phạm vi rộng nhất với hơn 250 FM được đào tạo trước. Các FM này bao gồm các mẫu tiên tiến như Mistral, Llama2, CodeLlama, Jurassic-2, Jamba, pplx-7B, 70B và Falcon 180B ấn tượng. Amazon SageMaker giúp sắp xếp và tinh chỉnh dữ liệu, xây dựng cơ sở hạ tầng đào tạo hiệu quả và có thể mở rộng, sau đó triển khai các mô hình trên quy mô lớn với độ trễ thấp, tiết kiệm chi phí. Nó đã góp phần thay đổi cuộc chơi cho các nhà phát triển trong việc chuẩn bị dữ liệu cho AI, quản lý thử nghiệm, đào tạo mô hình nhanh hơn (ví dụ: Perplexity AI đào tạo mô hình nhanh hơn 40% trong Amazon SageMaker), giảm độ trễ suy luận (ví dụ: Workday đã giảm 80% độ trễ suy luận với Amazon SageMaker) và cải thiện năng suất của nhà phát triển (ví dụ: NatWest đã giảm thời gian tạo ra giá trị cho AI từ 12-18 tháng xuống dưới bảy tháng khi sử dụng Amazon SageMaker). Tuy nhiên, việc vận hành các mô hình tùy chỉnh này một cách an toàn và tích hợp chúng vào các ứng dụng cho các trường hợp sử dụng kinh doanh cụ thể vẫn còn những thách thức.

Đó là lý do tại sao hôm nay chúng tôi giới thiệu Nhập mô hình tùy chỉnh của Amazon Bedrock, cho phép các tổ chức tận dụng khoản đầu tư AI hiện có của họ cùng với khả năng của Amazon Bedrock. Với Nhập mô hình tùy chỉnh, giờ đây khách hàng có thể nhập và truy cập các mô hình tùy chỉnh của riêng mình được xây dựng trên kiến ​​trúc mô hình mở phổ biến bao gồm Flan-T5, Llama và Mistral, dưới dạng giao diện lập trình ứng dụng (API) được quản lý hoàn toàn trong Amazon Bedrock. Khách hàng có thể lấy các mô hình mà họ đã tùy chỉnh trên Amazon SageMaker hoặc các công cụ khác và dễ dàng thêm chúng vào Amazon Bedrock. Sau khi xác thực tự động, họ có thể truy cập liền mạch vào mô hình tùy chỉnh của mình, giống như bất kỳ mô hình nào khác trong Amazon Bedrock. Họ nhận được tất cả các lợi ích giống nhau, bao gồm khả năng mở rộng liền mạch và khả năng mạnh mẽ để bảo vệ ứng dụng của mình, tuân thủ các nguyên tắc AI có trách nhiệm – cũng như khả năng mở rộng nền tảng kiến ​​thức của mô hình bằng RAG, dễ dàng tạo các tác nhân để hoàn thành các nhiệm vụ nhiều bước và thực hiện tinh chỉnh để tiếp tục giảng dạy và hoàn thiện các mô hình. Tất cả mà không cần phải quản lý cơ sở hạ tầng cơ bản.

Với khả năng mới này, chúng tôi giúp các tổ chức dễ dàng lựa chọn kết hợp mô hình Amazon Bedrock và mô hình tùy chỉnh của riêng họ trong khi vẫn duy trì trải nghiệm phát triển hợp lý như cũ. Hiện nay, Nhập mô hình tùy chỉnh của Amazon Bedrock có sẵn ở dạng xem trước và hỗ trợ ba trong số các kiến ​​trúc mô hình mở phổ biến nhất cũng như có kế hoạch cho nhiều kiến ​​trúc khác trong tương lai. Đọc thêm về Nhập mô hình tùy chỉnh cho Amazon Bedrock.

ASAPP là một công ty AI có tính sáng tạo với lịch sử 10 năm xây dựng các mô hình ML.

“Tác nhân trò chuyện và giọng nói AI tổng hợp đàm thoại của chúng tôi tận dụng các mô hình này để xác định lại trải nghiệm dịch vụ khách hàng. Để cung cấp cho khách hàng khả năng tự động hóa từ đầu đến cuối, chúng tôi cần các đại lý LLM, nền tảng kiến ​​thức và tính linh hoạt trong việc lựa chọn mô hình. Với Nhập mô hình tùy chỉnh, chúng tôi sẽ có thể sử dụng các mô hình tùy chỉnh hiện có của mình trong Amazon Bedrock. Bedrock sẽ cho phép chúng tôi tiếp cận khách hàng nhanh hơn, tăng tốc độ đổi mới và đẩy nhanh thời gian tiếp thị các khả năng của sản phẩm mới.”

– Priya Vijayarajendran, Chủ tịch, Công nghệ.

3. Amazon Bedrock cung cấp nền tảng an toàn và có trách nhiệm để thực hiện các biện pháp bảo vệ một cách dễ dàng

Khi khả năng AI tổng quát phát triển và mở rộng, việc xây dựng niềm tin và giải quyết các mối quan tâm về đạo đức càng trở nên quan trọng hơn. Amazon Bedrock giải quyết những lo ngại này bằng cách tận dụng cơ sở hạ tầng an toàn và đáng tin cậy của AWS bằng các biện pháp bảo mật hàng đầu trong ngành, mã hóa dữ liệu mạnh mẽ và kiểm soát truy cập nghiêm ngặt.

Guardrails dành cho Amazon Bedrock, hiện đã có sẵn rộng rãi, giúp khách hàng ngăn chặn nội dung có hại và quản lý thông tin nhạy cảm trong ứng dụng.

Chúng tôi cũng cung cấp Lan can dành cho Amazon Bedrock, hiện đã có sẵn rộng rãi. Guardrails cung cấp khả năng bảo vệ an toàn hàng đầu trong ngành, mang đến cho khách hàng khả năng xác định chính sách nội dung, đặt ranh giới hành vi ứng dụng và thực hiện các biện pháp bảo vệ chống lại các rủi ro tiềm ẩn. Guardrails dành cho Amazon Bedrock là giải pháp duy nhất được cung cấp bởi một nhà cung cấp đám mây lớn, cho phép khách hàng xây dựng và tùy chỉnh các biện pháp bảo vệ an toàn và quyền riêng tư cho các ứng dụng AI tổng hợp của họ trong một giải pháp duy nhất. Nó giúp khách hàng chặn nội dung có hại nhiều hơn tới 85% so với khả năng bảo vệ vốn được cung cấp bởi FM trên Amazon Bedrock. Guardrails cung cấp hỗ trợ toàn diện cho việc lọc nội dung có hại và khả năng phát hiện thông tin nhận dạng cá nhân (PII) mạnh mẽ. Guardrails hoạt động với tất cả LLM trong Amazon Bedrock cũng như các mô hình được tinh chỉnh, thúc đẩy tính nhất quán trong cách các mô hình phản ứng với nội dung không mong muốn và có hại. Bạn có thể định cấu hình các ngưỡng để lọc nội dung theo sáu danh mục – thù ghét, lăng mạ, tình dục, bạo lực, hành vi sai trái (bao gồm cả hoạt động tội phạm) và tấn công nhanh chóng (bẻ khóa và tiêm nhanh). Bạn cũng có thể xác định một tập hợp các chủ đề hoặc từ cần chặn trong ứng dụng AI tổng quát của mình, bao gồm các từ có hại, ngôn từ tục tĩu, tên đối thủ cạnh tranh và sản phẩm. Ví dụ: một ứng dụng ngân hàng có thể định cấu hình lan can để phát hiện và chặn các chủ đề liên quan đến tư vấn đầu tư. Ứng dụng trung tâm liên lạc tóm tắt bản ghi của trung tâm cuộc gọi có thể sử dụng tính năng biên tập PII để xóa PII trong bản tóm tắt cuộc gọi hoặc chatbot trò chuyện có thể sử dụng bộ lọc nội dung để chặn nội dung có hại. Đọc thêm về Lan can cho Amazon Bedrock.

Các công ty như Aha!, một công ty phần mềm giúp hơn 1 triệu người hiện thực hóa chiến lược sản phẩm của mình, sử dụng Amazon Bedrock để hỗ trợ nhiều khả năng AI tổng hợp của họ.

“Chúng tôi có toàn quyền kiểm soát thông tin của mình thông qua các chính sách quyền riêng tư và bảo vệ dữ liệu của Amazon Bedrock, đồng thời có thể chặn nội dung có hại thông qua Guardrails dành cho Amazon Bedrock. Chúng tôi chỉ xây dựng dựa trên nó để giúp người quản lý sản phẩm khám phá thông tin chi tiết bằng cách phân tích phản hồi do khách hàng của họ gửi. Điều này chỉ là khởi đầu. Chúng tôi sẽ tiếp tục xây dựng trên công nghệ AWS tiên tiến để giúp các nhóm phát triển sản phẩm ở khắp mọi nơi ưu tiên những gì cần xây dựng tiếp theo một cách tự tin.”

Với nhiều lựa chọn hơn về FM và tính năng hàng đầu giúp bạn đánh giá các mô hình và bảo vệ ứng dụng cũng như tận dụng khoản đầu tư trước đây của bạn vào AI cùng với khả năng của Amazon Bedrock, các lần ra mắt hôm nay giúp khách hàng xây dựng và mở rộng quy mô AI tạo ra dễ dàng hơn và nhanh hơn các ứng dụng. Bài đăng trên blog này chỉ nêu bật một tập hợp con các tính năng mới. Bạn có thể tìm hiểu thêm về mọi thứ chúng tôi đã triển khai trong tài nguyên của bài đăng này, bao gồm đặt câu hỏi và tóm tắt dữ liệu từ một tài liệu mà không cần thiết lập cơ sở dữ liệu vectơ trong Cơ sở Kiến thức và tính sẵn có chung của hỗ trợ cho nhiều nguồn dữ liệu với Cơ sở Kiến thức.

Những người dùng đầu tiên tận dụng khả năng của Amazon Bedrock đang đạt được khởi đầu quan trọng – thúc đẩy tăng năng suất, thúc đẩy những khám phá mang tính đột phá trên nhiều lĩnh vực và mang lại trải nghiệm nâng cao cho khách hàng nhằm thúc đẩy lòng trung thành và sự gắn kết. Tôi rất vui mừng muốn biết khách hàng của chúng tôi sẽ làm gì tiếp theo với những khả năng mới này.

Như người cố vấn của tôi, Werner Vogels luôn nói “Bây giờ hãy bắt đầu xây dựng” và tôi sẽ thêm “…với Amazon Bedrock!”

Thông tin

Hãy xem các tài nguyên sau để tìm hiểu thêm về thông báo này:


Giới thiệu về tác giả

Swami Sivasubramanian là Phó chủ tịch về Dữ liệu và Máy học tại AWS. Với vai trò này, Swami giám sát tất cả các dịch vụ Cơ sở dữ liệu AWS, Phân tích và AI & Học máy. Nhiệm vụ của nhóm của anh ấy là giúp các tổ chức đưa dữ liệu của họ hoạt động với một giải pháp dữ liệu đầu cuối, hoàn chỉnh để lưu trữ, truy cập, phân tích và trực quan hóa cũng như dự đoán.

tại chỗ_img

Tin tức mới nhất

tại chỗ_img