제퍼넷 로고

AI, 5G 및 증강 현실의 융합으로 새로운 보안 위험 발생 

시간

John P. Desmond, AI 트렌드 편집자  

여러 산업에서 500 억 달러 이상의 매출을 올린 기업의 5여 명의 C 급 비즈니스 및 보안 전문가가 Accenture의 최근 설문 조사에서 AI, 5G 및 증강 현실 기술을 모두 동시에 추구함으로써 발생할 수있는 잠재적 보안 취약성에 대해 우려를 표명했습니다. .  

Claudio Ordóñez, 칠레 Accenture 사이버 보안 리더

예를 들어 AI 모델을 적절하게 교육하려면 AI 교육에 필요한 데이터와 AI가 생성되는 환경을 보호해야합니다. 모델을 사용할 때 이동중인 데이터를 보호해야합니다. 기술 또는 보안상의 이유로 또는 지적 재산 보호를 위해 데이터를 한곳에서 수집 할 수 없습니다. “따라서 기업은 서로 다른 당사자가 협력 할 수 있도록 안전한 학습을 ​​삽입해야합니다.”라고 Claudio는 말했습니다. 오르도 네즈, 칠레의 Accenture 사이버 보안 리더 시장 조사 사업.  

기업은 보안 소프트웨어 개발 관행을 확장해야합니다. DevSecOps, 수명주기 동안 AI를 보호합니다. "안타깝게도 AI 조작을 방어 할 수있는 은색 총알이 없으므로 인공 지능으로 구동되는 비즈니스 프로세스의 위험을 줄이기 위해 계층화 된 기능을 사용해야합니다."라고 그는 말했습니다. 측정에는 입력 데이터 삭제, 애플리케이션 강화 및 보안 분석 설정과 같은 일반적인 보안 기능 및 제어가 포함됩니다. 또한 데이터 무결성, 정확성 제어, 변조 감지를위한 조치를 취해야합니다., 및 조기 대응 능력.    

모델 추출 및 프라이버시 공격 위험  

기계 학습 모델은 몇 가지 고유 한 보안 및 개인 정보 문제를 보여주었습니다. "모델이 외부 데이터 공급자에게 노출되면 모델 추출 위험에 처할 수 있습니다." 오르도 네즈 경고. 이 경우 해커는 할 수 있을지도 모른다 모델을 리버스 엔지니어링하고 원래 모델의 기능을 재현하지만 결과가 변경된 대리 모델을 생성합니다. "이것은 지적 재산의 기밀성에 대한 명백한 의미를 가지고 있습니다."라고 그는 말했습니다.  

모델 추출 및 개인 정보에 대한 공격으로부터 보호하려면 제어가 필요합니다. 비율 제한과 같은 일부는 적용하기 쉽지만 일부 모델은 비정상적인 사용 분석과 같은보다 정교한 보안이 필요할 수 있습니다. AI 모델이 서비스로 제공되는 경우 기업은 클라우드 서비스 환경에서 안전 제어를 고려해야합니다. “오픈 소스 또는 외부에서 생성 된 데이터 및 모델은 조직에 공격 벡터를 제공합니다.”라고 Ordóñez는 말했습니다. 공격자가 조작 된 데이터를 삽입하고 내부 보안을 우회 할 수 있기 때문입니다.   

조직이 신기술을 지원하는 데 필요한 기술 지식을 생성 할 계획을 묻는 질문에 Accenture 설문 조사에 대한 대부분의 응답자는 기존 직원을 교육 할 것이라고 답했습니다 (77%), 경험이있는 조직과 협력하거나 파트너가 될 것입니다 (73%), 새로운 인재 채용 (73%), 새로운 비즈니스 또는 신생 기업 인수 (49%).  

Ordóñez의 관점에서 이러한 기술에 대한 전문가를 교육하는 데 걸리는 시간은 과소 평가되고 있습니다. 또한“응답자들은 AI, 5G, 양자 컴퓨팅 및 확장 현실에서 고용 할 수있는 엄청난 인재가있을 것이라고 가정하지만 현실은 시장에서 이러한 기술이 부족할 것이라는 점입니다.”라고 그는 말했습니다. "문제를 해결하면 이러한 새로운 기술 기술을 갖춘 보안 인재를 찾는 것이 훨씬 더 어려울 것입니다."라고 그는 말했습니다.  

5G 기술의 기능은 공격 표면을 확장하는 가상화 및 공격 위치의 "초정밀"추적을 포함하여 새로운 보안 문제를 발생시켜 사용자의 개인 정보 보호 문제를 증가시킵니다. Ordóñez는 "클라우드 서비스의 성장과 마찬가지로 5G는 회사의 지식과 관리 외부에서 작동하는 섀도우 네트워크를 만들 수있는 잠재력을 가지고 있습니다."라고 말했습니다.  

"장치 등록에는 엔터프라이즈 공격 표면을 처리하기위한 인증이 포함되어야합니다. 그것 없이는 메시지의 무결성과 사용자의 신원을 보장 할 수 없습니다.”라고 그는 말했습니다. 기업이 효과를 발휘하려면 최고 정보 보안 책임자 (CISO)의 약속이 필요합니다. "성공을 위해서는 올바른 사고 방식, 행동 및 문화를 포함하여 혁신의 시작부터 일상적인 전반에 걸쳐 사이버 위험 관리에 대한 상당한 CISO 헌신과 전문성이 필요합니다.  

증강 현실은 또한 위치 관련 보안 문제, 신뢰 인식, 이미지 콘텐츠 및 주변 소리, "콘텐츠 마스킹"과 같은 다양한 새로운 보안 위험을 도입합니다. 이와 관련하여 Ordóñez는 ""이 밸브를 엽니 다 "라는 명령이 잘못된 개체로 향할 수 있으며 치명적인 활성화를 생성 할 수 있습니다."라고 제안했습니다.  

5G 시대의 데이터 프라이버시를 보호하는 기술 

영구 시스템의 얼라이언스 및 산업 솔루션 부문 사장, Jiani Zhang

AI가 확장되고 더 많은 규제 프레임 워크가 동시에 시행됨에 따라 데이터 프라이버시는 XNUMX 년 동안 가장 중요한 문제 중 하나입니다. 여러 데이터 관리 기술은 조직이 규정을 준수하고 보안을 유지하는 데 도움이 될 수 있다고 J는 제안합니다.iani Zhang, Persistent Systems의 Alliance and Industrial Solution Unit 사장. 그녀는 IBM 및 Red Hat과 긴밀히 협력하여 고객을위한 솔루션을 개발합니다. 기업 프로젝트. 

연합 학습. 의료와 같은 민감한 사용자 데이터가있는 분야에서 지난 XNUMX 년간의 전통적 지혜는 가능할 때마다 데이터를 '단일로'하는 것이 었습니다. 그러나 머신 러닝 알고리즘을 교육하고 배포하는 데 필요한 데이터 집계는 특히 조직 내에서 데이터를 공유 할 때 "심각한 개인 정보 보호 및 보안 문제"를 발생 시켰습니다. 

연합 학습 모델에서 데이터는 해당 환경에서 안전하게 유지됩니다. 로컬 ML 모델은 비공개 데이터 세트에 대해 학습되며, 모델 업데이트는 데이터 세트간에 흐름을 통해 중앙에서 집계됩니다. Zhang은 "데이터가 로컬 환경을 벗어나지 않아도됩니다."라고 말했습니다.   

“이러한 방식으로 데이터는 안전하게 유지되는 동시에 조직에 '군중의 지혜'를 제공합니다.그녀는 말했다. "연합 학습은 단일 리포지토리에있는 대신 데이터가 여러 곳에 분산되어 있기 때문에 단일 공격 또는 모든 데이터의 프라이버시를 침해하는 누출 위험을 줄입니다."  

설명 가능한 AI (XAI). 특히 신경망과 같은 많은 AI / ML 모델은 입력 및 작업이 이해 당사자에게 보이지 않는 블랙 박스입니다. 새로운 연구 분야는 설명 가능성, 복잡한 시스템을 나타내는 의사 결정 트리와 같은 투명성을 가져 오는 데 도움이되는 기술을 사용하여보다 책임감있게 만듭니다.   

"의료, 은행, 금융 서비스 및 보험과 같은 민감한 분야에서 우리는 AI 의사 결정을 맹목적으로 믿을 수 없습니다.”라고 Zhang은 말했습니다. 예를 들어, 은행 대출을 거부 한 소비자는 그 이유를 알 권리가 있습니다. “XAI는 미래에 AI 시스템을 개발하는 조직의 주요 초점 영역이되어야합니다.”라고 그녀는 제안했습니다. 

AI 작업 / ML 작업. 작업을 표준화하고 성능을 측정하며 문제를 자동으로 수정하여 전체 ML 모델 수명주기를 가속화하는 것이 아이디어입니다. AIOps는 다음 세 계층에 적용 할 수 있습니다. 

  • 인프라 : 자동화 된 도구를 통해 조직은 인프라를 확장하고 용량 요구 사항을 충족 할 수 있습니다. Zhang은 컨테이너에서 실행되는 클라우드 기반 마이크로 서비스에 DevOps 원칙을 적용하는 GitOps라는 새로운 DevOps 하위 집합을 언급했습니다.  
  • 애플리케이션 성능 관리 (APM) : 조직은 APM을 적용하여 다운 타임을 관리하고 성능을 극대화하고 있습니다. APM 솔루션은 AI 및 ML을 사용하여 사후 적 접근 방식을 취하는 대신 사전에 문제를 식별하는 AIOps 접근 방식을 통합합니다.  
  • IT 서비스 관리 (ITSM) : IT 서비스는 대규모 시스템의 하드웨어, 소프트웨어 및 컴퓨팅 리소스에 걸쳐 있습니다. ITSM은 AIOps를 적용하여 티켓팅 워크 플로를 자동화하고, 사고를 관리 및 분석하고, 책임 중 문서를 승인하고 모니터링합니다. 

소스 기사 읽기  시장 조사 사업, 관련 보고서 Accenture 과 in 기업 프로젝트. 

PrimeXBT 결제
AC Milan의 공식 CFD 파트너와 거래
암호 화폐를 거래하는 가장 쉬운 방법.
출처 : https://www.aitrends.com/ai-and-5g/convergence-of-ai-5g-and-augmented-reality-poses-new-security-risks/

spot_img

최신 인텔리전스

spot_img