AI đang ngày càng phổ biến và xu hướng này sẽ tiếp tục. Điều này được hỗ trợ bởi Gartner trong đó tuyên bố rằng khoảng 80% doanh nghiệp sẽ sử dụng trí tuệ nhân tạo tổng hợp (GenAI) giao diện hoặc mô hình lập trình ứng dụng (API) vào năm 2026. Tuy nhiên, AI là một thuật ngữ rộng và phổ biến, và trong nhiều trường hợp, nó bao gồm một loạt công nghệ. Tuy nhiên, AI mang lại những đột phá về khả năng xử lý logic theo cách khác nhau, điều này đang thu hút sự chú ý từ các doanh nghiệp cũng như người tiêu dùng đang thử nghiệm nhiều dạng AI khác nhau hiện nay. Đồng thời, công nghệ này đang thu hút sự chú ý tương tự từ các tác nhân đe dọa, những người nhận ra rằng nó có thể là điểm yếu trong bảo mật của công ty, đồng thời nó cũng có thể là công cụ giúp các công ty xác định những điểm yếu này và giải quyết chúng.

Những thách thức bảo mật của AI

Một cách mà các công ty đang sử dụng AI là xem xét các tập dữ liệu lớn để xác định các mẫu và trình tự dữ liệu phù hợp. Điều này đạt được bằng cách tạo các tập dữ liệu dạng bảng thường chứa các hàng và hàng dữ liệu. Mặc dù điều này mang lại lợi ích đáng kể cho các công ty, từ việc nâng cao hiệu quả đến xác định mô hình và hiểu biết sâu sắc, nhưng nó cũng làm tăng rủi ro bảo mật khi xảy ra vi phạm, dữ liệu này được sắp xếp theo cách mà các tác nhân đe dọa dễ dàng sử dụng.

Mối đe dọa tiếp tục phát triển khi sử dụng các công nghệ Mô hình ngôn ngữ lớn (LLM) nhằm loại bỏ các rào cản bảo mật khi dữ liệu được đặt trong miền công cộng để bất kỳ ai sử dụng công nghệ này tình cờ phát hiện và sử dụng. Vì LLM thực sự là một bot không hiểu chi tiết nên nó tạo ra phản hồi có khả năng xảy ra cao nhất dựa trên xác suất sử dụng thông tin mà nó có trong tay. Vì nhiều công ty như vậy đang ngăn cản nhân viên đưa bất kỳ dữ liệu nào của công ty vào các công cụ như ChatGPT để giữ an toàn cho dữ liệu trong phạm vi giới hạn của công ty.

Lợi ích bảo mật của AI

Mặc dù AI có thể gây ra rủi ro tiềm ẩn cho các công ty nhưng nó cũng có thể là một phần của giải pháp. Vì AI xử lý thông tin khác với con người nên nó có thể xem xét các vấn đề theo cách khác và đưa ra các giải pháp đột phá. Ví dụ, AI tạo ra các thuật toán tốt hơn và có thể giải quyết các vấn đề toán học mà con người đã phải vật lộn trong nhiều năm. Như vậy, khi nói đến bảo mật thông tin, thuật toán là vua và AI, Học máy (ML) hoặc một công nghệ điện toán nhận thức tương tự, có thể tìm ra cách bảo mật dữ liệu.

Đây là một lợi ích thực sự của AI vì nó không chỉ có thể xác định và sắp xếp lượng thông tin khổng lồ mà còn có thể xác định các mô hình cho phép các tổ chức nhìn thấy những thứ mà trước đây họ chưa từng chú ý đến. Điều này mang đến một yếu tố hoàn toàn mới cho vấn đề bảo mật thông tin. Mặc dù AI sẽ được các tác nhân đe dọa sử dụng như một công cụ để cải thiện hiệu quả của việc xâm nhập vào hệ thống, nhưng nó cũng sẽ được các tin tặc có đạo đức sử dụng như một công cụ để cố gắng tìm ra cách cải thiện bảo mật mang lại lợi ích cao cho doanh nghiệp.

Thách thức của nhân viên và an ninh

Nhân viên, những người đang nhìn thấy lợi ích của AI trong cuộc sống cá nhân của họ, đang sử dụng các công cụ như ChatGPT để nâng cao khả năng thực hiện chức năng công việc của họ. Đồng thời, những nhân viên này đang làm tăng thêm sự phức tạp của việc bảo mật dữ liệu. Các công ty cần biết những thông tin mà nhân viên đang đưa lên các nền tảng này và các mối đe dọa liên quan đến chúng.

Vì các giải pháp này sẽ mang lại lợi ích cho nơi làm việc nên các công ty có thể cân nhắc đưa dữ liệu không nhạy cảm vào hệ thống để hạn chế lộ các tập dữ liệu nội bộ, đồng thời nâng cao hiệu quả trong toàn tổ chức. Tuy nhiên, các tổ chức cần nhận ra rằng họ không thể có cả hai cách và dữ liệu họ đưa vào các hệ thống như vậy sẽ không được giữ kín. Vì lý do này, các công ty sẽ cần xem lại chính sách bảo mật thông tin của mình và xác định cách bảo vệ dữ liệu nhạy cảm đồng thời đảm bảo nhân viên có quyền truy cập vào dữ liệu quan trọng.

Dữ liệu không nhạy cảm nhưng hữu ích

Các công ty nhận thức được giá trị mà AI có thể mang lại đồng thời bổ sung thêm rủi ro bảo mật vào hỗn hợp. Để đạt được giá trị từ công nghệ này trong khi vẫn giữ dữ liệu ở chế độ riêng tư, họ đang tìm cách triển khai dữ liệu ẩn danh bằng cách sử dụng bút danh, chẳng hạn như thay thế thông tin nhận dạng bằng bút danh hoặc giá trị và không cho phép nhận dạng cá nhân trực tiếp.

Một cách khác mà các công ty có thể bảo vệ dữ liệu là sử dụng AI tổng hợp cho dữ liệu tổng hợp. Ví dụ: nếu một công ty có tập dữ liệu khách hàng và cần chia sẻ tập dữ liệu đó với bên thứ ba để phân tích và hiểu biết sâu sắc, họ sẽ chỉ ra mô hình tạo dữ liệu tổng hợp vào tập dữ liệu đó. Mô hình này sẽ tìm hiểu tất cả về tập dữ liệu, xác định các mẫu từ thông tin và sau đó tạo tập dữ liệu với các cá nhân hư cấu không đại diện cho bất kỳ ai trong dữ liệu thực nhưng cho phép người nhận phân tích toàn bộ tập dữ liệu và cung cấp lại thông tin chính xác. Điều này có nghĩa là các công ty có thể chia sẻ thông tin giả mạo nhưng chính xác mà không làm lộ dữ liệu nhạy cảm hoặc riêng tư. TCách tiếp cận của ông cho phép các mô hình học máy sử dụng lượng thông tin khổng lồ để phân tích và trong một số trường hợp, để kiểm tra dữ liệu cho quá trình phát triển.

Với một số phương pháp bảo vệ dữ liệu hiện có cho các công ty hiện nay, giá trị của công nghệ AI có thể được tận dụng mà yên tâm rằng dữ liệu cá nhân vẫn được an toàn và bảo mật. Điều này rất có ý nghĩa đối với các doanh nghiệp vì họ trải nghiệm được những lợi ích thực sự mà dữ liệu mang lại trong việc nâng cao hiệu quả, ra quyết định và trải nghiệm tổng thể của khách hàng.

Bài viết của Clyde Williamson, kiến ​​trúc sư trưởng về bảo mật và Nathan Vega, phó chủ tịch, chiến lược và tiếp thị sản phẩm tại Protegrity.

Bình luận về bài viết này dưới đây hoặc thông qua X: @IoTNow_

• Phân phối nội dung và PR được hỗ trợ bởi SEO. Được khuếch đại ngay hôm nay.
• PlatoData.Network Vertical Generative Ai. Trao quyền cho chính mình. Truy cập Tại đây.
• PlatoAiStream. Thông minh Web3. Kiến thức khuếch đại. Truy cập Tại đây.
• Trung tâmESG. Than đá, công nghệ sạch, Năng lượng, Môi trường Hệ mặt trời, Quản lý chất thải. Truy cập Tại đây.
• PlatoSức khỏe. Tình báo thử nghiệm lâm sàng và công nghệ sinh học. Truy cập Tại đây.
• nguồn: https://www.iot-now.com/2024/01/19/141963-ai-and-security-it-is-complicated-but-doesnt-need-to-be/