Bởi John P. Desmond, Xu hướng AI Biên tập viên  

Khoảng 500 chuyên gia kinh doanh và bảo mật cấp C từ các công ty có doanh thu hơn 5 tỷ USD trong nhiều ngành đã bày tỏ lo ngại trong một cuộc khảo sát gần đây của Accenture về các lỗ hổng bảo mật tiềm ẩn do việc theo đuổi các công nghệ AI, 5G và thực tế tăng cường cùng một lúc. .  

Ví dụ, để đào tạo đúng cách các mô hình AI, công ty cần bảo vệ dữ liệu cần thiết để đào tạo AI và môi trường nơi nó được tạo. Khi mô hình đang được sử dụng, dữ liệu chuyển động cần được bảo vệ. Dữ liệu không thể được thu thập ở một nơi, vì lý do kỹ thuật hoặc bảo mật hoặc để bảo vệ quyền sở hữu trí tuệ. “Do đó, nó buộc các công ty phải đưa vào học tập an toàn để các bên khác nhau có thể cộng tác,” Claudio cho biết Ordoñez, Lãnh đạo an ninh mạng cho Accenture ở Chile, trong một tài khoản gần đây trong Biz nghiên cứu thị trường.  

Các công ty cần mở rộng các thực hành phát triển phần mềm an toàn, được gọi là DevSecOps, để bảo vệ AI trong suốt vòng đời. Ông nói: “Thật không may, không có viên đạn bạc nào để chống lại các thao túng của AI, vì vậy cần phải sử dụng các khả năng theo lớp để giảm thiểu rủi ro trong các quy trình kinh doanh được hỗ trợ bởi trí tuệ nhân tạo”. Các biện pháp bao gồm các chức năng và kiểm soát bảo mật phổ biến như vệ sinh dữ liệu đầu vào, làm cứng ứng dụng và thiết lập phân tích bảo mật. Ngoài ra, các bước phải được thực hiện để đảm bảo tính toàn vẹn của dữ liệu, kiểm soát độ chính xác, phát hiện giả mạo, và khả năng phản hồi sớm.    

Rủi ro trích xuất mô hình và tấn công vào quyền riêng tư  

Các mô hình máy học đã chứng minh một số vấn đề riêng về bảo mật và quyền riêng tư. “Nếu một mô hình tiếp xúc với các nhà cung cấp dữ liệu bên ngoài, bạn có thể gặp rủi ro khi trích xuất mô hình,” Ordoñez đã cảnh báo. Trong trường hợp đó, tin tặc có thể thiết kế ngược mô hình và tạo ra một mô hình thay thế tái tạo chức năng của mô hình ban đầu, nhưng với các kết quả bị thay đổi. Ông nói: “Điều này có ý nghĩa rõ ràng đối với tính bảo mật của tài sản trí tuệ.  

Để bảo vệ chống lại việc trích xuất mô hình và các cuộc tấn công vào quyền riêng tư, cần có các biện pháp kiểm soát. Một số dễ áp ​​dụng, chẳng hạn như giới hạn tốc độ, nhưng một số mô hình có thể yêu cầu bảo mật tinh vi hơn, chẳng hạn như phân tích mức sử dụng bất thường. Nếu mô hình AI đang được phân phối dưới dạng dịch vụ, các công ty cần xem xét các biện pháp kiểm soát an toàn tại chỗ trong môi trường dịch vụ đám mây. “Dữ liệu và mô hình mã nguồn mở hoặc được tạo bên ngoài cung cấp các hướng tấn công cho các tổ chức,” Ordóñez tuyên bố, bởi vì những kẻ tấn công có thể chèn dữ liệu bị thao túng và vượt qua bảo mật nội bộ.   

Khi được hỏi tổ chức của họ đang lập kế hoạch như thế nào để tạo ra kiến ​​thức kỹ thuật cần thiết để hỗ trợ các công nghệ mới nổi, hầu hết những người trả lời khảo sát của Accenture cho biết họ sẽ đào tạo nhân viên hiện có (77%), sẽ hợp tác hoặc hợp tác với các tổ chức có kinh nghiệm (73%), thuê tài năng mới (73%) và mua lại các doanh nghiệp hoặc công ty mới thành lập (49%).  

Theo quan điểm của Ordóñez, thời gian cần thiết để đào tạo các chuyên gia về những kỹ năng này đang bị đánh giá thấp. Ngoài ra, “Những người được hỏi cho rằng sẽ có rất nhiều nhân tài sẵn sàng thuê từ AI, 5G, điện toán lượng tử và thực tế mở rộng, nhưng thực tế là thị trường đang và sẽ thiếu những kỹ năng này,” ông nói. Ông nói: “Thêm vào vấn đề, việc tìm kiếm tài năng bảo mật với những kỹ năng công nghệ mới nổi này sẽ còn khó khăn hơn.  

Các tính năng của công nghệ 5G làm nảy sinh các vấn đề bảo mật mới, bao gồm ảo hóa giúp mở rộng bề mặt tấn công và theo dõi “siêu chính xác” các vị trí tấn công, làm tăng mối lo ngại về quyền riêng tư cho người dùng. Ordóñez cho biết: “Giống như sự phát triển của các dịch vụ đám mây, 5G có khả năng tạo ra các mạng ngầm hoạt động bên ngoài kiến ​​thức và sự quản lý của công ty.  

"Đăng ký thiết bị phải bao gồm xác thực để xử lý bề mặt tấn công doanh nghiệp. Không có nó, tính toàn vẹn của tin nhắn và danh tính của người dùng không thể được đảm bảo,” ông nói. Các công ty sẽ cần cam kết của giám đốc an ninh thông tin (CISO) để có hiệu quả. “Thành công đòi hỏi sự cam kết và chuyên môn đáng kể của CISO trong quản lý rủi ro mạng ngay từ đầu và trong suốt quá trình đổi mới hàng ngày, bao gồm cả việc có tư duy, hành vi và văn hóa phù hợp để biến điều đó thành hiện thực.”  

Thực tế mở rộng cũng đưa ra một loạt các rủi ro bảo mật mới, với các vấn đề về bảo mật xung quanh vị trí, nhận dạng tin cậy, nội dung của hình ảnh và âm thanh xung quanh cũng như “mặt nạ nội dung”. Về vấn đề này, “Lệnh“ mở van này” có thể được hướng đến sai đối tượng và tạo ra một kích hoạt thảm khốc,” Ordóñez gợi ý.  

Các kỹ thuật bảo vệ quyền riêng tư dữ liệu trong kỷ nguyên 5G 

Quyền riêng tư dữ liệu là một trong những vấn đề quan trọng nhất của thập kỷ, khi AI mở rộng và nhiều khung pháp lý hơn đang được đưa ra cùng một lúc. Một số kỹ thuật quản lý dữ liệu có thể giúp các tổ chức tuân thủ và an toàn, J đề xuấtiani Zhang, Chủ tịch Đơn vị Liên minh và Giải pháp Công nghiệp tại Persistent Systems, nơi cô hợp tác chặt chẽ với IBM và Red Hat để phát triển các giải pháp cho khách hàng, như đã báo cáo gần đây trong Dự án Enterprisers. 

Học liên kết. Trong một lĩnh vực có dữ liệu người dùng nhạy cảm như chăm sóc sức khỏe, sự khôn ngoan truyền thống của thập kỷ trước là 'unsilo' dữ liệu bất cứ khi nào có thể. Tuy nhiên, việc tổng hợp dữ liệu cần thiết để đào tạo và triển khai các thuật toán máy học đã tạo ra “các vấn đề nghiêm trọng về quyền riêng tư và bảo mật”, đặc biệt là khi dữ liệu được chia sẻ trong các tổ chức. 

Trong mô hình học liên kết, dữ liệu được bảo mật trong môi trường của nó. Các mô hình ML cục bộ được đào tạo trên các tập dữ liệu riêng tư và luồng cập nhật mô hình giữa các tập dữ liệu sẽ được tổng hợp tập trung. Zhang cho biết: “Dữ liệu không bao giờ phải rời khỏi môi trường cục bộ của nó.   

“Bằng cách này, dữ liệu vẫn được bảo mật trong khi vẫn mang lại cho các tổ chức 'sự khôn ngoan của đám đông'," Cô ấy đã tuyên bố. “Học tập liên kết làm giảm nguy cơ một cuộc tấn công hoặc rò rỉ đơn lẻ ảnh hưởng đến quyền riêng tư của tất cả dữ liệu vì thay vì nằm trong một kho lưu trữ duy nhất, dữ liệu được phân tán ra nhiều nơi”.  

AI có thể giải thích được (XAI). Nhiều mô hình AI/ML, đặc biệt là mạng thần kinh, là các hộp đen mà đầu vào và hoạt động của chúng không hiển thị đối với các bên quan tâm. Một lĩnh vực nghiên cứu mới là khả năng giải thích, sử dụng các kỹ thuật giúp mang lại sự minh bạch, chẳng hạn như cây quyết định đại diện cho một hệ thống phức tạp, để làm cho hệ thống đó có trách nhiệm giải trình hơn.   

"Trong các lĩnh vực nhạy cảm như chăm sóc sức khỏe, ngân hàng, dịch vụ tài chính và bảo hiểm, chúng ta không thể mù quáng tin tưởng vào khả năng ra quyết định của AI,” Zhang nói. Ví dụ, một người tiêu dùng bị từ chối cho một khoản vay ngân hàng có quyền được biết lý do tại sao. “XAI nên là lĩnh vực trọng tâm chính của các tổ chức phát triển hệ thống AI trong tương lai,” cô gợi ý. 

Hoạt động trí tuệ nhân tạo/Hoạt động học máy. Ý tưởng là tăng tốc toàn bộ vòng đời của mô hình ML bằng cách chuẩn hóa các hoạt động, đo lường hiệu suất và tự động khắc phục sự cố. AIOps có thể được áp dụng cho ba lớp sau: 

• Cơ sở hạ tầng: Các công cụ tự động cho phép các tổ chức mở rộng quy mô cơ sở hạ tầng của họ và theo kịp nhu cầu về năng lực. Zhang đã đề cập đến một tập hợp con mới nổi của DevOps có tên là GitOps, ứng dụng này áp dụng các nguyên tắc DevOps cho các vi dịch vụ dựa trên đám mây chạy trong các vùng chứa.  
• Quản lý hiệu suất ứng dụng (APM): Các tổ chức đang áp dụng APM để quản lý thời gian chết và tối đa hóa hiệu suất. Các giải pháp APM kết hợp phương pháp AIOps, sử dụng AI và ML để chủ động xác định các vấn đề thay vì thực hiện phương pháp phản ứng.  
• Quản lý dịch vụ CNTT (ITSM): Các dịch vụ CNTT mở rộng tài nguyên phần cứng, phần mềm và máy tính trong các hệ thống lớn. ITSM áp dụng AIOps để tự động hóa quy trình bán vé, quản lý và phân tích sự cố cũng như ủy quyền và giám sát tài liệu thuộc trách nhiệm của mình. 

Đọc các bài viết nguồn trong  Biz nghiên cứu thị trường, trong báo cáo liên quan từ Accenture và in Dự án Enterprisers. 

Thanh toán PrimeXBT
Giao dịch với các Đối tác CFD chính thức của AC Milan
Cách dễ nhất để giao dịch tiền điện tử.
Nguồn: https://www.aitrends.com/ai-and-5g/convergence-of-ai-5g-and-augmented-reality-poses-new-security-risks/