Mặc dù các chuyên gia bảo mật nhìn chung rất hào hứng với vai trò tiềm năng của AI tổng hợp trong tổ chức của họ, nhưng họ cũng lo ngại về tác động mà những công cụ mới này có thể gây ra trong môi trường của họ. Cuộc khảo sát của Dark Reading về việc sử dụng AI tổng hợp trong doanh nghiệp cho thấy nhận thức và mối lo ngại ở mức độ cao về những cạm bẫy tiềm ẩn khi sử dụng toàn bộ công nghệ này.

Gần XNUMX/XNUMX số người tham gia khảo sát bày tỏ một số lo ngại về rủi ro bảo mật và an toàn do ChatGPT và các công nghệ AI tổng hợp khác gây ra. Con số tương tự cũng tin rằng nhân viên đang sử dụng các công nghệ AI có tính sáng tạo công cộng cho mục đích công việc ngay cả khi họ không được ủy quyền đầy đủ để làm như vậy.

Phần lớn số người được hỏi (86%) cho rằng tổ chức phải có các công cụ quản lý rủi ro phù hợp để duy trì niềm tin vào công nghệ. Tuy nhiên, có một số câu hỏi về việc nên sử dụng chiến lược nào để giảm thiểu rủi ro, cho dù đó là quản trị AI (43%), xác định chính sách và nguyên tắc dữ liệu (42%), xem xét các phản hồi do AI tạo ra để xác định kết quả không mong muốn (42%) và thiết lập chương trình bảo mật ứng dụng AI (40%). Phần lớn (57%) cho rằng cần phải đào tạo nâng cao nhận thức, tập trung vào thực hành AI có trách nhiệm.

Một người trả lời khảo sát nói: “Ước gì những đứa trẻ đang bối rối đó có thể hiểu được rủi ro!”

Trong khi 30% số người được hỏi cho biết trách nhiệm triển khai và quản lý các công cụ AI tổng hợp thuộc về CNTT trong tổ chức của họ, thì 17% cho rằng đó là một phần của an ninh mạng và 25% có một nhóm AI chuyên dụng. Mặc dù vậy, trách nhiệm cuối cùng về bảo mật và quản lý rủi ro đối với AI tổng hợp thuộc về an ninh mạng đối với 27% số người được hỏi và thuộc nhóm AI chuyên dụng cho 21% số người được hỏi.

Mặc dù không có đa số rõ ràng khi được hỏi về những thách thức lớn nhất mà tổ chức phải đối mặt liên quan đến bảo mật AI tạo và quản lý rủi ro, bốn câu trả lời hàng đầu là: sự không chắc chắn về cách áp dụng tuân thủ quy định đối với AI tạo (47%), không minh bạch trong quy định thứ ba. các công cụ AI tổng quát của đảng (46%), không có sự đồng thuận về các hướng dẫn và chính sách AI tổng quát (43%) và quản trị dữ liệu (39%).

Tìm hiểu thêm về suy nghĩ của độc giả Dark Reading AI sáng tạo trong doanh nghiệp.

• Phân phối nội dung và PR được hỗ trợ bởi SEO. Được khuếch đại ngay hôm nay.
• PlatoData.Network Vertical Generative Ai. Trao quyền cho chính mình. Truy cập Tại đây.
• PlatoAiStream. Thông minh Web3. Kiến thức khuếch đại. Truy cập Tại đây.
• Trung tâmESG. Than đá, công nghệ sạch, Năng lượng, Môi trường Hệ mặt trời, Quản lý chất thải. Truy cập Tại đây.
• PlatoSức khỏe. Tình báo thử nghiệm lâm sàng và công nghệ sinh học. Truy cập Tại đây.
• nguồn: https://www.darkreading.com/cyber-risk/security-pros-grapple-with-ways-to-manage-gen-ai-risk