L’IA gagne en popularité et cette tendance ne fera que se poursuivre. Ceci est soutenu par Gartner qui précise qu'environ 80% des entreprises auront utilisé l'intelligence artificielle générative (GénAI) des interfaces ou des modèles de programmation d'applications (API) d'ici 2026. Cependant, l'IA est un terme large et omniprésent et, dans de nombreux cas, il couvre une gamme de technologies. Néanmoins, l’IA présente des avancées dans la capacité à traiter la logique différemment, ce qui attire l’attention des entreprises et des consommateurs qui expérimentent aujourd’hui diverses formes d’IA. Dans le même temps, cette technologie suscite une attention similaire de la part des acteurs malveillants qui se rendent compte qu’elle pourrait constituer une faiblesse dans la sécurité d’une entreprise, mais qu’elle pourrait également être un outil permettant aux entreprises d’identifier ces faiblesses et d’y remédier.

Les défis de sécurité de l’IA

L’une des façons dont les entreprises utilisent l’IA consiste à examiner de grands ensembles de données pour identifier des modèles et séquencer les données en conséquence. Ceci est réalisé en créant des ensembles de données tabulaires qui contiennent généralement des lignes et des lignes de données. Bien que cela présente des avantages significatifs pour les entreprises, allant de l'amélioration de l'efficacité à l'identification de modèles et d'informations, cela augmente également les risques de sécurité, car en cas de violation, ces données sont triées de manière à être faciles à utiliser pour les acteurs malveillants.

D'autres menaces évoluent lors de l'utilisation des technologies LLM (Large Language Model), qui suppriment les barrières de sécurité, car les données sont placées dans le domaine public pour que toute personne utilisant la technologie puisse les découvrir et les utiliser. Comme LLM est en fait un robot qui ne comprend pas les détails, il produit la réponse la plus probable basée sur la probabilité en utilisant les informations dont il dispose. En tant que tel, de nombreuses entreprises empêchent leurs employés de transférer des données d'entreprise dans des outils tels que ChatGPT afin de garantir la sécurité des données dans les limites de l'entreprise.

Avantages de l’IA en matière de sécurité

Si l’IA peut présenter un risque potentiel pour les entreprises, elle pourrait également faire partie de la solution. Comme l’IA traite les informations différemment des humains, elle peut aborder les problèmes différemment et proposer des solutions révolutionnaires. Par exemple, l’IA produit de meilleurs algorithmes et peut résoudre des problèmes mathématiques avec lesquels les humains sont confrontés depuis de nombreuses années. Ainsi, en matière de sécurité de l’information, les algorithmes sont rois et IA, apprentissage automatique (ML) ou une technologie informatique cognitive similaire, pourrait proposer un moyen de sécuriser les données.

Il s’agit d’un véritable avantage de l’IA, car elle peut non seulement identifier et trier d’énormes quantités d’informations, mais également identifier des modèles permettant aux organisations de voir des choses qu’elles n’avaient jamais remarquées auparavant. Cela apporte un tout nouvel élément à la sécurité de l’information. Si l’IA va être utilisée par les auteurs de menaces comme un outil pour améliorer l’efficacité de leur piratage des systèmes, elle sera également utilisée comme un outil par les pirates éthiques pour tenter de découvrir comment améliorer la sécurité, ce qui sera très bénéfique pour les entreprises.

Le défi des salariés et de la sécurité

Les employés, qui constatent les avantages de l'IA dans leur vie personnelle, utilisent des outils tels que ChatGPT pour améliorer leur capacité à exercer leurs fonctions. Dans le même temps, ces employés ajoutent à la complexité de la sécurité des données. Les entreprises doivent être conscientes des informations que les employés mettent sur ces plateformes et des menaces qui y sont associées.

Étant donné que ces solutions apporteront des avantages au lieu de travail, les entreprises pourraient envisager de placer des données non sensibles dans des systèmes afin de limiter l'exposition des ensembles de données internes tout en améliorant l'efficacité de l'ensemble de l'organisation. Cependant, les organisations doivent comprendre qu’elles ne peuvent pas gagner sur deux tableaux et que les données qu’elles intègrent dans de tels systèmes ne resteront pas privées. Pour cette raison, les entreprises devront revoir leurs politiques de sécurité des informations et identifier comment protéger les données sensibles tout en garantissant que les employés ont accès aux données critiques.

Données non sensibles mais utiles

Les entreprises sont conscientes de la valeur que l’IA peut apporter tout en ajoutant une risque de sécurité dans le mélange. Pour valoriser cette technologie tout en préservant la confidentialité des données, ils explorent les moyens de mettre en œuvre des données anonymisées en utilisant par exemple la pseudonymisation qui remplace les informations identifiables par un pseudonyme, ou une valeur et ne permet pas d'identifier directement l'individu.

Les entreprises peuvent également protéger leurs données grâce à l’IA générative pour les données synthétiques. Par exemple, si une entreprise dispose d’un ensemble de données client et doit le partager avec un tiers à des fins d’analyse et d’informations, elle pointe un modèle de génération de données synthétiques vers l’ensemble de données. Ce modèle apprendra tout sur l'ensemble de données, identifiera les modèles à partir des informations, puis produira un ensemble de données avec des individus fictifs qui ne représentent personne dans les données réelles mais permettra au destinataire d'analyser l'ensemble des données et de fournir des informations précises. Cela signifie que les entreprises peuvent partager des informations fausses mais exactes sans exposer de données sensibles ou privées. TCette approche permet d'utiliser des quantités massives d'informations par les modèles d'apprentissage automatique à des fins d'analyse et, dans certains cas, de tester les données à des fins de développement.

Avec plusieurs méthodes de protection des données disponibles aujourd'hui pour les entreprises, la valeur des technologies d'IA peut être exploitée avec la tranquillité d'esprit que les données personnelles restent sûres et sécurisées. Ceci est important pour les entreprises, car elles découvrent les véritables avantages que les données apportent pour améliorer l'efficacité, la prise de décision et l'expérience client globale.

Article de Clyde Williamson, architecte en chef de la sécurité et Nathan Vega, vice-président du marketing produit et de la stratégie chez Protegrity.

Commentez cet article ci-dessous ou via X : @IoTNow_

• Contenu propulsé par le référencement et distribution de relations publiques. Soyez amplifié aujourd'hui.
• PlatoData.Network Ai générative verticale. Autonomisez-vous. Accéder ici.
• PlatoAiStream. Intelligence Web3. Connaissance Amplifiée. Accéder ici.
• PlatonESG. Carbone, Technologie propre, Énergie, Environnement, Solaire, La gestion des déchets. Accéder ici.
• PlatoHealth. Veille biotechnologique et essais cliniques. Accéder ici.
• La source: https://www.iot-now.com/2024/01/19/141963-ai-and-security-it-is-complicated-but-doesnt-need-to-be/