26 tháng 2023 năm XNUMX-WASHINGTON - Viện Tiêu chuẩn và Công nghệ Quốc gia (NIST) của Bộ Thương mại Hoa Kỳ đã công bố Khung quản lý rủi ro trí tuệ nhân tạo (AI RMF 1.0), một tài liệu hướng dẫn để các tổ chức thiết kế, phát triển, triển khai hoặc sử dụng hệ thống AI tự nguyện sử dụng nhằm giúp quản lý nhiều rủi ro của công nghệ AI.
AI RMF tuân theo một hướng từ Quốc hội cho NIST để phát triển khuôn khổ và được sản xuất với sự hợp tác chặt chẽ với khu vực tư nhân và công cộng. Nó nhằm mục đích thích ứng với bối cảnh AI khi các công nghệ tiếp tục phát triển và được các tổ chức sử dụng ở các mức độ và năng lực khác nhau để xã hội có thể hưởng lợi từ các công nghệ AI đồng thời được bảo vệ khỏi những tác hại tiềm ẩn của nó.
Thứ trưởng Bộ Thương mại Don Graves cho biết: “Khuôn khổ tự nguyện này sẽ giúp phát triển và triển khai các công nghệ AI theo cách cho phép Hoa Kỳ, các quốc gia và tổ chức khác nâng cao độ tin cậy của AI trong khi quản lý rủi ro dựa trên các giá trị dân chủ của chúng ta”. “Nó sẽ thúc đẩy sự đổi mới và tăng trưởng của AI đồng thời thúc đẩy — thay vì hạn chế hoặc gây tổn hại — quyền công dân, quyền tự do dân sự và bình đẳng cho tất cả mọi người.”
So với phần mềm truyền thống, AI đặt ra một số rủi ro khác nhau. Các hệ thống AI được đào tạo dựa trên dữ liệu có thể thay đổi theo thời gian, đôi khi đáng kể và bất ngờ, ảnh hưởng đến hệ thống theo những cách khó hiểu. Các hệ thống này cũng có bản chất “xã hội-kỹ thuật”, nghĩa là chúng bị ảnh hưởng bởi động lực xã hội và hành vi của con người. Rủi ro AI có thể xuất hiện từ sự tương tác phức tạp của các yếu tố kỹ thuật và xã hội này, ảnh hưởng đến cuộc sống của mọi người trong các tình huống khác nhau, từ trải nghiệm của họ với chatbot trực tuyến đến kết quả của các đơn xin việc và khoản vay.
Khuôn khổ trang bị cho các tổ chức suy nghĩ về AI và rủi ro theo cách khác. Nó thúc đẩy sự thay đổi trong văn hóa thể chế, khuyến khích các tổ chức tiếp cận AI với một góc nhìn mới — bao gồm cách suy nghĩ, giao tiếp, đo lường và giám sát rủi ro AI cũng như các tác động tích cực và tiêu cực tiềm tàng của nó.
AI RMF cung cấp một quy trình linh hoạt, có cấu trúc và có thể đo lường được, cho phép các tổ chức giải quyết các rủi ro AI. Tuân thủ quy trình quản lý rủi ro AI này có thể tối đa hóa lợi ích của công nghệ AI đồng thời giảm khả năng tác động tiêu cực đến các cá nhân, nhóm, cộng đồng, tổ chức và xã hội.
Theo Thứ trưởng Bộ Tiêu chuẩn và Công nghệ kiêm Giám đốc NIST Laurie E. Locascio, khuôn khổ này là một phần trong nỗ lực lớn hơn của NIST nhằm tạo niềm tin vào các công nghệ AI - điều cần thiết nếu công nghệ này được xã hội chấp nhận rộng rãi.
Locascio cho biết: “Khung quản lý rủi ro AI có thể giúp các công ty và tổ chức khác trong mọi lĩnh vực và mọi quy mô bắt đầu hoặc tăng cường các phương pháp quản lý rủi ro AI của họ. “Nó cung cấp một cách mới để tích hợp các thực tiễn có trách nhiệm và hướng dẫn khả thi để vận hành AI đáng tin cậy và có trách nhiệm. Chúng tôi hy vọng AI RMF sẽ giúp thúc đẩy sự phát triển của các tiêu chuẩn và thực tiễn tốt nhất.”
AI RMF được chia thành hai phần. Phần đầu tiên thảo luận về cách các tổ chức có thể định hình các rủi ro liên quan đến AI và phác thảo các đặc điểm của hệ thống AI đáng tin cậy. Phần thứ hai, cốt lõi của khung, mô tả bốn chức năng cụ thể — điều hành, lập bản đồ, đo lường và quản lý — để giúp các tổ chức giải quyết các rủi ro của hệ thống AI trong thực tế. Các chức năng này có thể được áp dụng trong các trường hợp sử dụng theo ngữ cảnh cụ thể và ở bất kỳ giai đoạn nào của vòng đời AI.
Hợp tác chặt chẽ với khu vực tư nhân và công cộng, NIST đã và đang phát triển AI RMF trong 18 tháng. Tài liệu phản ánh về 400 bộ bình luận chính thức NIST đã nhận được từ hơn 240 tổ chức khác nhau về các phiên bản dự thảo của khung. NIST hôm nay phát hành phát biểu của một số tổ chức đã cam kết sử dụng hoặc quảng bá khuôn khổ.
Cơ quan này cũng hôm nay đã phát hành một người bạn đồng hành tự nguyện Cẩm nang AI RMF, đề xuất các cách điều hướng và sử dụng khung.
NIST có kế hoạch làm việc với cộng đồng AI để cập nhật khung định kỳ và hoan nghênh các đề xuất bổ sung và cải tiến cho playbook bất cứ lúc nào. Nhận xét nhận được trước cuối tháng 2023 năm 2023 sẽ được đưa vào phiên bản cập nhật của sách giải trí sẽ được phát hành vào mùa xuân năm XNUMX.
Ngoài ra, NIST có kế hoạch ra mắt Trung tâm tài nguyên AI đáng tin cậy và có trách nhiệm để giúp các tổ chức đưa AI RMF 1.0 vào thực tế. Cơ quan khuyến khích các tổ chức phát triển và chia sẻ hồ sơ về cách họ sẽ sử dụng nó trong bối cảnh cụ thể của họ. Đệ trình có thể được gửi đến [email được bảo vệ].
NIST cam kết tiếp tục làm việc với các công ty, xã hội dân sự, cơ quan chính phủ, trường đại học và những tổ chức khác để phát triển hướng dẫn bổ sung. Cơ quan này hôm nay đã ban hành một lộ trình cho công việc đó.
Khung này là một phần trong danh mục đầu tư rộng lớn và đang phát triển của NIST về Công việc liên quan đến AI bao gồm nghiên cứu cơ bản và ứng dụng cùng với việc tập trung vào đo lường và đánh giá, tiêu chuẩn kỹ thuật và đóng góp cho chính sách AI.
- Phân phối nội dung và PR được hỗ trợ bởi SEO. Được khuếch đại ngay hôm nay.
- Platoblockchain. Web3 Metaverse Intelligence. Khuếch đại kiến thức. Truy cập Tại đây.
- nguồn: https://www.darkreading.com/risk/nist-risk-management-framework-aims-to-improve-trustworthiness-of-artificial-intelligence
