AI의 인기가 높아지고 있으며 이러한 추세는 앞으로도 계속될 것입니다. 이는 다음에서 지원됩니다. 가트너 이는 약 80%의 기업이 생성 인공 지능을 사용하게 될 것이라고 말합니다(GenAI) 애플리케이션 프로그래밍 인터페이스(API) 또는 모델을 2026년까지 개발합니다. 그러나 AI는 광범위하고 유비쿼터스적인 용어이며 많은 경우 다양한 기술을 포괄합니다. 그럼에도 불구하고 AI는 논리를 다르게 처리하는 능력에 있어 획기적인 발전을 보여 오늘날 다양한 형태의 AI를 실험하는 기업과 소비자 모두의 관심을 끌고 있습니다. 동시에 이 기술은 회사 보안의 약점이 될 수 있는 동시에 회사가 이러한 약점을 식별하고 해결하는 데 도움이 되는 도구가 될 수도 있음을 깨닫고 있는 위협 행위자들로부터 비슷한 관심을 끌고 있습니다.
AI의 보안 과제
기업이 AI를 사용하는 한 가지 방법은 대규모 데이터 세트를 검토하여 그에 따라 패턴과 시퀀스 데이터를 식별하는 것입니다. 이는 일반적으로 데이터 행과 행을 포함하는 테이블 형식 데이터 세트를 생성하여 달성됩니다. 이는 효율성 향상부터 패턴 및 통찰력 식별에 이르기까지 기업에 상당한 이점을 제공하지만 침해가 발생할 경우 보안 위험도 증가시킵니다. 이 데이터는 위협 행위자가 사용하기 쉬운 방식으로 분류됩니다.
기술을 사용하는 모든 사람이 우연히 발견하고 사용할 수 있도록 데이터가 공개 도메인에 배치되므로 보안 장벽을 제거하는 LLM(대형 언어 모델) 기술을 사용하면 위협이 더욱 커집니다. LLM은 사실상 세부 사항을 이해하지 못하는 봇이기 때문에 보유하고 있는 정보를 사용하여 확률을 기반으로 가장 가능성 있는 응답을 생성합니다. 따라서 많은 회사에서는 직원이 회사 내 데이터를 안전하게 유지하기 위해 ChatGPT와 같은 도구에 회사 데이터를 입력하는 것을 방지하고 있습니다.
AI의 보안 이점
AI는 기업에 잠재적인 위험을 제공할 수 있지만 솔루션의 일부일 수도 있습니다. AI는 인간과 다르게 정보를 처리하기 때문에 문제를 다르게 보고 획기적인 솔루션을 제시할 수 있습니다. 예를 들어, AI는 더 나은 알고리즘을 생성하고 인간이 수년 동안 어려움을 겪어온 수학적 문제를 해결할 수 있습니다. 따라서 정보 보안에 있어서는 알고리즘이 왕입니다. AI, 머신러닝(ML) 또는 유사한 인지 컴퓨팅 기술이 데이터를 보호하는 방법을 제시할 수 있습니다.
이는 방대한 양의 정보를 식별하고 분류할 수 있을 뿐만 아니라 패턴을 식별하여 조직이 이전에 전혀 알아차리지 못했던 것들을 볼 수 있게 해준다는 점에서 AI의 실질적인 이점입니다. 이는 정보 보안에 완전히 새로운 요소를 가져옵니다. AI는 위협 행위자가 시스템 해킹의 효율성을 향상시키는 도구로 사용될 예정이지만, 윤리적 해커가 보안을 개선하는 방법을 찾아 기업에 매우 유익한 도구로도 사용될 것입니다.
직원의 과제와 보안
개인 생활에서 AI의 이점을 보고 있는 직원들은 다음과 같은 도구를 사용하고 있습니다. ChatGPT 직무 수행 능력을 향상시킵니다. 동시에 이러한 직원은 데이터 보안의 복잡성을 가중시키고 있습니다. 기업은 직원들이 이러한 플랫폼에 어떤 정보를 입력하고 있는지, 그리고 이와 관련된 위협이 무엇인지 알고 있어야 합니다.
이러한 솔루션이 작업장에 이점을 제공하므로 기업은 민감하지 않은 데이터를 시스템에 넣어 내부 데이터 세트의 노출을 제한하는 동시에 조직 전체의 효율성을 높이는 것을 고려할 수 있습니다. 그러나 조직은 두 가지 방식을 모두 가질 수 없으며 이러한 시스템에 입력한 데이터가 비공개로 유지되지 않는다는 점을 인식해야 합니다. 이러한 이유로 기업은 정보 보안 정책을 검토하고 중요한 데이터를 보호하는 동시에 직원이 중요한 데이터에 액세스할 수 있도록 보장하는 방법을 파악해야 합니다.
민감하지는 않지만 유용한 데이터
기업은 AI가 가져올 수 있는 가치를 인식하는 동시에 보안 위험 믹스에. 데이터를 비공개로 유지하면서 이 기술로부터 가치를 얻기 위해 그들은 식별 가능한 정보를 가명 또는 값으로 대체하고 개인을 직접 식별할 수 없도록 하는 가명화를 사용하여 익명화된 데이터를 구현하는 방법을 모색하고 있습니다.
기업이 데이터를 보호할 수 있는 또 다른 방법은 합성 데이터용 생성 AI를 사용하는 것입니다. 예를 들어 회사에 고객 데이터 세트가 있고 분석 및 통찰력을 위해 이를 제3자와 공유해야 하는 경우 데이터 세트에서 합성 데이터 생성 모델을 가리킵니다. 이 모델은 데이터 세트에 대한 모든 것을 학습하고, 정보에서 패턴을 식별한 다음 실제 데이터에서 누구도 대표하지 않지만 수신자가 전체 데이터 세트를 분석하고 정확한 정보를 다시 제공할 수 있는 가상의 개인이 포함된 데이터 세트를 생성합니다. 이는 기업이 민감하거나 개인적인 데이터를 노출하지 않고도 가짜이지만 정확한 정보를 공유할 수 있음을 의미합니다. T그의 접근 방식을 통해 기계 학습 모델에서 분석을 위해 엄청난 양의 정보를 사용할 수 있으며 경우에 따라 개발을 위해 데이터를 테스트할 수 있습니다.
오늘날 기업에서 사용할 수 있는 다양한 데이터 보호 방법을 통해 개인 데이터가 안전하게 유지된다는 확신을 갖고 AI 기술의 가치를 활용할 수 있습니다. 이는 데이터가 효율성, 의사 결정 및 전반적인 고객 경험을 향상시키는 데 제공하는 진정한 이점을 경험하기 때문에 기업에게 중요합니다.
최고 보안 설계자인 Clyde Williamson과 Protegrity의 제품 마케팅 및 전략 담당 부사장인 Nathan Vega가 작성한 기사입니다.
아래 또는 X를 통해 이 기사에 댓글을 달아주세요. @IoTNow_
- SEO 기반 콘텐츠 및 PR 배포. 오늘 증폭하십시오.
- PlatoData.Network 수직 생성 Ai. 자신에게 권한을 부여하십시오. 여기에서 액세스하십시오.
- PlatoAiStream. 웹3 인텔리전스. 지식 증폭. 여기에서 액세스하십시오.
- 플라톤ESG. 탄소, 클린테크, 에너지, 환경, 태양광, 폐기물 관리. 여기에서 액세스하십시오.
- PlatoHealth. 생명 공학 및 임상 시험 인텔리전스. 여기에서 액세스하십시오.
- 출처: https://www.iot-now.com/2024/01/19/141963-ai-and-security-it-is-complicated-but-doesnt-need-to-be/
