Bởi John P. Desmond, Biên tập viên Xu hướng AI  

Các công ty quan tâm đến việc mua bảo hiểm để giảm thiểu rủi ro khi áp dụng và triển khai các ứng dụng AI mới không có lịch sử sử dụng. 

"WKhi nói đến việc sử dụng AI cho mục đích thương mại, các doanh nghiệp không thể dựa vào quy định của chính phủ để bảo vệ họ trước những tổn thất tiềm tàng trong trường hợp AI không thực hiện được lời hứa của mình,” Saar Yoskovitch, Giám đốc điều hành và đồng sáng lập của Augury, cho biết trong một báo cáo gần đây. tài khoản trong Chính phủ truy cập mở. 

Khi các hệ thống AI được triển khai trưởng thành, chúng sẽ ngày càng đưa ra các quyết định rủi ro cao. “Nhưng các mô hình AI thường dễ vỡ, không xử lý tốt các trường hợp khó khăn và có thể đã được đào tạo trên một tập dữ liệu có thành kiến ​​cố hữu,” Yoskovitch nói. Điều này đặc biệt phổ biến với các hệ thống AI sử dụng hành vi của con người làm đầu vào, chẳng hạn như các ứng dụng bảo hiểm ô tô nắm bắt hành vi lái xe của từng khách hàng. Biên độ sai sót đối với các quyết định này có thể rất nhỏ và các sai sót có thể gây ra hậu quả, chẳng hạn như tỷ lệ bảo hiểm cao một cách không công bằng.   

"Nhưng không phải lúc nào cũng rõ ai chịu trách nhiệm khi hệ thống AI gặp sự cố,” ông nói, chẳng hạn như khi một thuật toán đưa ra kết quả lâm sàng không chính xác cho bác sĩ. Các bên chịu trách nhiệm tiềm năng bao gồm bác sĩ, bệnh viện đã mua phần mềm, nhà cung cấp phần mềm hoặc nhà cung cấp tập dữ liệu đào tạo. 

Không rõ các nhà cung cấp phần mềm AI đảm bảo tính chính xác của các thuật toán của họ hay các công ty bảo hiểm sẽ chi trả các rủi ro liên quan đến các sản phẩm AI.  

Có bảo hiểm chống lại rủi ro AI có thể làm trơn tru con đường áp dụng AI. Trong số các nhà sản xuất đang thử nghiệm AI, nhiều người đang mắc kẹt trong “luyện ngục thử nghiệm” – chưa mở rộng quy mô chuyển đổi kỹ thuật số thành công. Yoskovitch cho biết: “Hỗ trợ nhiều hơn cho các doanh nghiệp đang tìm cách triển khai các giải pháp mới có thể giúp cải thiện tỷ lệ chấp nhận”.  

Yoskovitch gợi ý: Các công ty bảo hiểm có thể giúp các doanh nghiệp ở ba giai đoạn áp dụng AI này:  

Lựa chọn giải pháp AI. Công ty bảo hiểm có thể xác định giải pháp nào phù hợp với các trường hợp sử dụng cụ thể, thực hiện thẩm định chúng, sau đó hỗ trợ các giải pháp đã được xác thực bằng các sản phẩm bảo hiểm. Bằng cách này, công ty bảo hiểm trở thành một cố vấn đáng tin cậy.   

Triển khai giải pháp AI. Sau khi được triển khai, hệ thống AI cần được theo dõi để biết liệu nó có mang lại kết quả như đã hứa hay không. Nếu hệ thống mắc lỗi dẫn đến thua lỗ, nó cần được xác định. Yoskovitch cho biết: “Các công ty bảo hiểm có kỹ năng để xác thực rằng một giải pháp cụ thể mang lại kết quả.   

Mở rộng các giải pháp AI.  Khi AI được sử dụng rộng rãi hơn trong các doanh nghiệp, các hệ thống AI sẽ đưa ra nhiều quyết định có rủi ro cao hơn, có thể xảy ra với ít sự giám sát của con người hơn. Ông nói: “Điều này làm tăng rủi ro AI và khiến bảo hiểm cho AI càng trở nên quan trọng hơn để hỗ trợ mở rộng quy mô áp dụng”.  

Cách chuẩn bị cho bảo hiểm AI 

Các công ty có thể chuẩn bị cho việc giới thiệu bảo hiểm AI, đề xuất một tài khoản trong Harvard Business Review năm ngoái. Đây được gọi là bảo hiểm dành riêng cho AI/Machine Learning.  

Các tác giả Ram Shankar Siva Kumar, người làm việc tại Microsoft với tư cách là thành viên của nhóm Khoa học dữ liệu bảo mật Azure và Frank Nagle, một trợ lý, cho biết: “Các tổ chức chưa được chuẩn bị đầy đủ” đối với rủi ro liên quan đến hỏng dữ liệu, đánh cắp mô hình và các ví dụ đối nghịch. giáo sư tại Trường Kinh doanh Harvard. 

Các tác giả đã phỏng vấn không chính thức 28 tổ chức nằm trong danh sách Fortune 500 doanh nghiệp vừa và nhỏ, tổ chức phi lợi nhuận và tổ chức chính phủ. Một số 25 không có kế hoạch để giảm thiểu các cuộc tấn công bất lợi vào các mô hình máy học của họ. Những lý do bao gồm: không đủ kinh nghiệm.     

Các mô hình lỗi AI là một lĩnh vực nghiên cứu đang phát triển. Các tác giả cho biết: “Không thể cung cấp các biện pháp giảm thiểu công nghệ theo quy định. Bảo hiểm mạng đến gần nhất, nhưng không phải là một sự phù hợp hoàn hảo. Nếu thiệt hại về cơ thể xảy ra do lỗi AI, chẳng hạn như nếu hệ thống nhận dạng hình ảnh trên ô tô tự hành không hoạt động trong điều kiện tuyết hoặc sương giá, bảo hiểm mạng không có khả năng chi trả cho thiệt hại, mặc dù nó có thể chi trả cho các tổn thất do gián đoạn kinh doanh có kết quả, các tác giả gợi ý.  

Đây là một khu vực dự án greenfield bảo hiểm đầy thách thức. Là một nhà quản lý bảo mật tại một nhóm tư vấn lớn bốn người đã nói với các nhà nghiên cứu, “Các cuộc tấn công phần mềm truyền thống là một ẩn số đã biết. Các cuộc tấn công vào các mô hình ML của chúng tôi là ẩn số.”  

Bảo hiểm mạng là một thị trường đang phát triển nhanh chóng. Các tác giả đề nghị các công ty bắt đầu chuẩn bị. Các doanh nghiệp có thể mong đợi các yêu cầu nghiêm ngặt khi bảo hiểm AI được giới thiệu để hạn chế trách nhiệm pháp lý của nhà cung cấp bảo hiểm, các tác giả cho biết.  

Để bắt đầu, họ khuyên bạn nên:   

• Trao đổi với nhà cung cấp bảo hiểm của bạn về rủi ro mạng và AI nào được bảo hiểm và rủi ro nào không;  
• Đánh giá tác động tiềm tàng của thất bại AI;  
• Chỉ định sự giám sát của con người đối với các quyết định quan trọng trong kinh doanh;  
• Đánh giá tổ chức của bạn dựa trên các khuôn khổ hiện có như Nguyên tắc AI đáng tin cậy của Ủy ban châu Âu;  
• Về lâu dài, hãy chỉ định một nhân viên an toàn đánh giá rủi ro và tính bảo mật của các hệ thống AI, đồng thời để người đó cộng tác với Giám đốc An toàn Thông tin và nhân sự của Giám đốc Dữ liệu;  
• Cải tiến các biện pháp bảo mật để tính đến các cuộc tấn công học máy của đối thủ và xem xét việc thuê một nhóm màu đỏ để kiểm tra căng thẳng các hệ thống ML của bạn. 

Khởi nghiệp Cowbell Cyber ​​​​Tập trung vào An ninh mạng cho Doanh nghiệp Nhỏ  

Một nhà cải tiến bảo hiểm an ninh mạng, Cowbell Cyber, cung cấp bảo hiểm mạng cho các doanh nghiệp vừa và nhỏ, đã huy động được 20 triệu đô la vào tháng 250 để phát triển hoạt động kinh doanh của mình. Mùa thu năm ngoái, công ty đã tung ra chương trình Prime 38, trao quyền cho các đại lý bảo hiểm đưa ra các chính sách mạng được cá nhân hóa. Kể từ đó, chương trình đã được mở rộng ra 4,500 tiểu bang; Cowbell Cyber ​​có mạng lưới hơn XNUMX đại lý và nhà môi giới, theo một tài khoản gần đây trên Đại Lộ An Ninh.   

Jack Kudale, người sáng lập kiêm Giám đốc điều hành công ty cho biết: “An ninh mạng hiện là một vấn đề quản lý rủi ro có ý nghĩa quan trọng đối với tương lai của ngành bảo hiểm và đang phát triển với tốc độ mà các công ty bảo hiểm hiếm khi thấy được. “Cowbell Cyber ​​đã tận dụng tốc độ số hóa nhanh chóng của các doanh nghiệp và bối cảnh mối đe dọa luôn thay đổi. Cowbell nắm lấy AI và học máy để đạt được hiệu quả và độ chính xác khi đánh giá và bảo lãnh rủi ro mạng đồng thời tập trung vào các nhu cầu cơ bản của các chủ hợp đồng của chúng tôi: giữ cho doanh nghiệp của họ được bảo vệ khỏi các mối đe dọa mạng đang gia tăng.” 

Theo một bài đăng gần đây trên Blog điện tử Cowbell, các đại lý của nó không còn phải đưa ra trường hợp bảo hiểm mạng độc lập. “Giờ đây, mọi người đều hiểu rằng chính sách mạng độc lập đi kèm với giới hạn tổng hợp riêng và sự rõ ràng trong chính sách về những gì được bảo hiểm chính xác hay không,” bài đăng của Isabelle Dumont, Phó Giám đốc Tham gia Thị trường tại Cowbell, cho biết. 

Đọc các bài báo nguồn và thông tin trong Chính phủ truy cập mở, Trong Harvard Business Review, Trong Đại lộ an ninh và trên Blog điện tử Cowbell. 

Coinsmart. Đặt cạnh Bitcoin-Börse ở Europa
Nguồn: https://www.aitrends.com/ai-and-business-strategy/insurance-to-mitigate-the-risk-of-ai-systems-coming-into-view/