제퍼넷 로고

생성 데이터 인텔리전스

AI

CISA와 NCSC는 AI 보안 표준을 높이기 위한 노력을 주도하고 있습니다.

플라톤에 의해 재발행
플라톤에 의해 재발행

시간

조회 수 : 133

영국 국립사이버보안국(NCSC)과 미국 사이버보안 및 인프라 보안국(CISA)은 AI 애플리케이션 보안을 위한 공식 지침을 발표했습니다. 이 문서는 AI 개발에 안전이 내재되어 있음을 보장하기 위한 문서입니다.

영국 정보기관은 이렇게 말했다. 안내 문서 동종 최초이며 다른 17개국에서 승인을 받았습니다.

운전 출판 AI 시스템 제공업체가 AI 개발 속도를 따라잡기 위해 노력함에 따라 보안이 나중에 고려될 것이라는 장기적인 두려움이 있습니다.

NCSC의 CEO인 Lindy Cameron은 올해 초 기술 산업은 기술 개발 속도가 높을 때 보안을 부차적인 고려 사항으로 남겨두었던 역사를 가지고 있다고 말했습니다.

오늘날 안전한 AI 시스템 개발을 위한 지침은 이 문제에 다시 한 번 관심을 끌었으며 AI도 항상 새로운 취약점에 노출될 것이라고 덧붙였습니다.

Cameron은 “우리는 AI가 경이로운 속도로 발전하고 있으며 이를 따라잡기 위해 정부와 업계 전반에 걸쳐 공동의 국제적 조치가 필요하다는 것을 알고 있습니다.”라고 말했습니다.

“이 지침은 보안이 개발의 후반부가 아니라 전체의 핵심 요구 사항이 되도록 보장하기 위해 AI와 관련된 사이버 위험 및 완화 전략에 대한 진정한 글로벌 공통 이해를 형성하는 데 중요한 단계입니다. 

“NCSC가 AI 사이버 보안 수준을 높이기 위한 중요한 노력을 주도하고 있다는 사실이 자랑스럽습니다. 보다 안전한 글로벌 사이버 공간은 우리 모두가 이 기술의 놀라운 기회를 안전하고 자신 있게 실현하는 데 도움이 될 것입니다.”

지침은 다음을 채택합니다. 안전한 설계 접근 방식을 통해 이상적으로는 AI 개발자가 개발 프로세스의 모든 단계에서 가장 사이버 보안이 뛰어난 결정을 내릴 수 있도록 지원합니다. 이는 처음부터 구축된 애플리케이션과 기존 리소스를 기반으로 구축된 애플리케이션에 적용됩니다.

지침을 승인하는 국가의 전체 목록과 해당 사이버 보안 기관은 다음과 같습니다.

  • 호주 – 호주 신호국 산하 호주 사이버 보안 센터(ACSC) 
  • 캐나다 - 캐나다 사이버 보안 센터(CCCS) 
  • 칠레 - 칠레 정부 CSIRT
  • 체코 – 체코 국립사이버정보보안국(NUKIB)
  • 에스토니아 – 에스토니아 정보시스템청(RIA) 및 에스토니아 국가사이버보안센터(NCSC-EE)
  • 프랑스 - 프랑스 사이버 보안국(ANSSI)
  • 독일 – 독일 연방정보보안국(BSI)
  • 이스라엘 – 이스라엘 국가사이버국(INCD)
  • 이탈리아 – 이탈리아 국립사이버보안국(ACN)
  • 일본 – 일본 국립 사이버 보안 사고 대비 및 전략 센터(NISC, 일본 내각 과학, 기술 및 혁신 정책 사무국)
  • 뉴질랜드 – 뉴질랜드 국립사이버보안센터
  • 나이지리아 – 나이지리아 국립정보기술개발청(NITDA)
  • 노르웨이 – 노르웨이 국립 사이버 보안 센터(NCSC-NO)
  • 폴란드 – 폴란드의 NASK 국립연구소(NASK)
  • 대한민국 – 대한민국 국가정보원(NIS)
  • 싱가포르 - 싱가포르 사이버 보안국(CSA)
  • 영국 및 북아일랜드 – 국립사이버보안센터(NCSC)
  • 미국 – 사이버 보안 및 인프라 기관(CISA); 국가안보국(NSA, 연방수사국(FBI))

지침은 AI 개발 주기의 모든 단계를 개선하기 위한 구체적인 제안이 포함된 XNUMX가지 주요 초점 영역으로 분류됩니다.

1. 안전한 디자인

제목에서 알 수 있듯이 지침에는 개발을 시작하기 전부터 보안을 고려해야 한다고 명시되어 있습니다. 첫 번째 단계는 직원들에게 AI 보안 위험과 그 완화에 대한 인식을 높이는 것입니다. 

그런 다음 개발자는 기술이 더 많은 사용자를 유치함에 따라 발생하는 더 많은 보안 위협과 자동화된 공격과 같은 미래 기술 개발을 설명하는 등 미래 보장도 고려하여 시스템에 대한 위협을 모델링해야 합니다.

보안 결정은 모든 기능 결정에서도 이루어져야 합니다. 설계 단계에서 개발자가 AI 구성 요소가 특정 작업을 트리거한다는 것을 알고 있는 경우 이 프로세스를 보호하는 최선의 방법에 대해 질문해야 합니다. 예를 들어 AI가 파일을 수정하는 경우 이 기능을 애플리케이션의 특정 요구 사항에 한해 제한하기 위해 필요한 보호 장치를 추가해야 합니다.

2. 안전한 개발

개발 단계 보안에는 공급망 보안에 대한 지침, 강력한 문서 유지, 자산 보호 및 기술 부채 관리가 포함됩니다.

공급망 보안은 지난 몇 년 동안 방어자들의 특별한 초점이 되어 왔으며, 세간의 이목을 끄는 공격이 급증하여 다음과 같은 일이 발생했습니다. 엄청난 수의 피해자. 

AI 개발자가 사용하는 공급업체가 검증되고 높은 보안 표준에 따라 작동하는지 확인하는 것은 중요 업무용 시스템에 문제가 발생할 경우에 대한 계획을 세우는 것과 마찬가지로 중요합니다.

3. 안전한 배포

보안 배포에는 API, 모델 및 데이터에 대한 액세스 제어를 포함하여 AI 시스템을 지원하는 데 사용되는 인프라를 보호하는 것이 포함됩니다. 보안 사고가 발생하는 경우 개발자는 문제가 언젠가 표면화될 것이라고 가정하는 대응 및 해결 계획도 마련해야 합니다.

모델의 기능과 모델이 훈련된 데이터는 지속적으로 공격으로부터 보호되어야 하며, 철저한 보안 평가를 받은 경우에만 책임감 있게 공개되어야 합니다. 

또한 AI 시스템은 기본적으로 사용자가 쉽게 안전할 수 있도록 해야 하며, 가능한 경우 가장 안전한 옵션이나 구성을 모든 사용자에 대한 기본값으로 만들어야 합니다. 사용자 데이터가 사용, 저장, 액세스되는 방식에 대한 투명성도 중요합니다.

4. 안전한 운영 및 유지관리

마지막 섹션에서는 배포 후 AI 시스템을 보호하는 방법을 다룹니다. 

보안에 영향을 미칠 수 있는 변경 사항을 추적하는 시스템 동작이든, 시스템에 입력되는 내용이든 모니터링은 이 모든 것의 핵심입니다. 개인 정보 보호 및 데이터 보호 요구 사항을 충족하려면 모니터링과 로깅 오용 징후에 대한 입력. 

또한 업데이트는 기본적으로 자동으로 실행되므로 오래되었거나 취약한 버전이 사용되지 않습니다. 마지막으로, 정보 공유 커뮤니티에 적극적으로 참여하면 업계가 AI 보안 위협에 대한 이해를 구축하는 데 도움이 될 수 있으며, 방어자가 잠재적인 악의적인 악용을 제한할 수 있는 완화 방법을 고안할 수 있는 더 많은 시간을 제공할 수 있습니다. ®

spot_img

최신 인텔리전스

spot_img

저작권 @ 2024 Plato Technologies Inc.