유럽 ​​인공 지능법(European Artificial Intelligence Act)은 아직 법이 아니지만 유럽 연합 내에서 인공 지능(AI)에 대한 인간의 감독 및 규제 준수를 새로운 수준으로 끌어올리고 있습니다. 개인 정보 보호에 대한 GDPR과 유사하게 EU AI 법은 전 세계적으로 다가오는 AI 규정의 분위기를 조성할 가능성이 있습니다.  

유럽의회는 2023년 2024월 EU AI법에 대한 임시 합의에 도달했으며 현재 입법 과정의 최종 단계를 진행 중이며 XNUMX년 하반기에 단계적으로 시행될 것으로 예상됩니다. EU 조항 이해 AI 법과 규정 준수 준비는 AI를 개발, 배포 또는 사용하거나 계획 중인 모든 조직에 필수적입니다.

AI법은 "실험실에서 시장에 이르기까지 AI 분야의 글로벌 허브로서 유럽의 입지를 강화하고, 유럽의 AI가 정해진 가치와 규칙을 존중하도록 보장하며, 산업용으로 AI의 잠재력을 활용하는 것"을 목표로 합니다. 유럽의회 뉴스

EU AI법 개요

EU AI법의 주요 초점은 위험 관리, 데이터 보호, 품질 관리 시스템, 투명성, 인간 감독, 정확성, 견고성 및 사이버 보안 분야에서 규제 준수를 강화하는 것입니다. AI 시스템의 개발 및 배포 방법에 투명성과 책임성을 부여하여 시장에 출시된 AI 제품이 개인이 안전하게 사용할 수 있도록 돕는 것을 목표로 합니다.

EU AI법은 의료, 금융, 에너지 등 규제가 엄격한 산업을 포함해 산업 전반에 걸쳐 책임감 있게 AI를 개발하고 배포하는 과제를 해결하는 것을 목표로 합니다. 보험, 은행, 소매 등 고객에게 필수 서비스를 제공하는 산업의 경우, 법에 따라 AI 사용이 고객의 권리에 어떤 영향을 미칠지 자세히 설명하는 기본권 영향 평가를 사용해야 합니다.

EU AI법의 초석: 허용할 수 없는 위험을 방지하기 위한 보호 장치

EU AI법은 LLM(대형 언어) 및 기초 모델과 같은 생성 AI 시스템을 포함한 범용 AI 모델이 체계적인 위험 계층을 기반으로 한 분류 시스템을 준수하도록 요구합니다. 위험 계층이 높을수록 모델 평가, 문서화 및 보고를 포함하여 더 많은 투명성 요구 사항이 있습니다. 또한 시스템 위험 평가 및 완화, 심각한 사고 보고, 사이버 보안에 대한 보호 제공도 포함됩니다. 또한 이러한 투명성 요구 사항에는 최신 기술 문서 유지 관리, 모델 교육에 사용되는 콘텐츠 요약 제공, 유럽 저작권법 준수가 포함됩니다.

EU AI법은 계층을 사용하여 AI 시스템이 개인의 건강, 안전 또는 기본권에 미치는 위험 수준을 분류하는 위험 기반 접근 방식을 따릅니다. 세 가지 계층은 다음과 같습니다.  

• 저위험 시스템 스팸 필터나 비디오 게임 등에는 투명성 의무 외에 법률에 따른 요구 사항이 거의 없습니다. 

• 고위험 AI 시스템 자율 주행 차량, 의료 기기 및 중요 인프라(물, 가스, 전기 등)와 같은 경우 개발자와 사용자는 추가 규제 요구 사항을 준수해야 합니다.
  • 위험 관리를 구현하고 사람의 감독을 포함하는 정확성, 견고성 및 책임 프레임워크를 제공합니다.
  • 사용자, 기록 보관, 기술 문서에 대해 규정된 투명성 요구 사항 충족

• 거의 예외가 없는 금지 시스템 소셜 스코어링, 안면 인식, 감정 인식, 공공 장소에서의 원격 생체 인식 시스템과 같이 용납할 수 없는 위험을 초래하는 시스템입니다.

EU AI법은 또한 챗봇을 사용할 때나 감정 인식 시스템을 사용할 때 고객에게 알림을 보내는 방법에 대한 규칙을 부과합니다. 딥 페이크에 라벨을 붙이고 생성 AI 콘텐츠가 미디어에서 사용되는 시기를 식별하기 위한 추가 요구 사항이 있습니다.

EU AI법을 준수하지 않으면 비용이 많이 들 수 있습니다.  

잘못된 정보 제공에 대해 7.5만 유로 또는 회사의 전 세계 연간 총 매출액의 1.5%(둘 중 더 높은 금액). EU AI법의 의무 위반에 대해 15만 유로 또는 회사의 전 세계 연간 총 매출액의 3%(둘 중 더 높은 금액). 12월 19, 2023

유럽 ​​AI법은 현재 AI 규제에 대한 가장 포괄적인 법적 체계입니다. 전 세계 정부는 시민, 기업 및 정부 기관을 잠재적인 위험으로부터 보호하기 위해 AI 기술을 규제하는 방법에 주목하고 적극적으로 논의하고 있습니다. 또한 기업 이사회부터 소비자까지 이해관계자들은 AI와 관련하여 신뢰, 투명성, 공정성 및 책임을 우선시하고 있습니다.

IBM과 함께 다가오는 규정에 대비하기

IBM watsonx.governance는 책임감 있고 투명하며 설명 가능한 AI 워크플로우를 가속화합니다.

IBM® watsonx.governance™는 조직의 AI 활동을 지시, 관리 및 모니터링하는 AI 거버넌스를 가속화합니다. 소프트웨어 자동화를 사용하여 위험을 완화하고 규제 요구 사항을 관리하며 생성 AI 및 예측 기계 학습(ML) 모델의 수명 주기를 관리하는 기능을 강화합니다.

 watsonx.governance는 3가지 주요 영역에서 모델 투명성, 설명 가능성 및 문서화를 촉진합니다.

• 규제 규정 준수 -전 세계적으로 다가오는 안전 및 투명성 규정, 정책 및 표준을 충족하기 위해 AI를 관리합니다. 적용 가능한 요구 사항에 대한 규제 변경 식별을 자동화하고, 규제 데이터를 주요 위험 제어 및 정책에 연결하고, 팩트시트를 사용하여 문의 및 감사를 지원하는 모델 메타데이터의 캡처 및 보고를 자동화합니다.

• 위기 관리 - 위험 임계값을 미리 설정하고 AI 모델 위험을 사전에 감지 및 완화합니다. 공정성, 드리프트, 편향 및 새로운 생성 AI 측정항목을 모니터링하세요. 사용 기반 대시보드 및 보고서를 통해 조직 전체의 위험 상태에 대한 통찰력을 얻으세요. 단일 환경 내에서 모든 위험 데이터, 위험/통제 평가, 내부 및 외부 손실 이벤트, 주요 위험 지표 및 문제/조치 계획 관리를 통합합니다.

• 라이프사이클 거버넌스 - 라이프사이클 거버넌스 – 통합 워크플로우/승인, 사전 설정된 경고, 대시보드 및 사용자 정의 가능한 보고서를 사용하여 수명주기 전반에 걸쳐 생성 AI 및 예측 기계 학습 모델을 모두 관리합니다. 사용 사례, 진행 중인 변경 요청, 문제, 문제 및 할당된 작업에 대한 지표와 상태를 모니터링합니다.

AI 거버넌스로 '블랙박스를 깨뜨려라'