1970년대와 1980년대가 은행 위기로 물들었을 때, 전 세계의 규제 기관은 금융 위험을 관리하는 방법에 대한 국제 표준을 설정하기 위해 뭉쳤습니다. 현재 Basel 표준으로 알려진 이러한 표준은 위험을 측정하고 관리하는 방법에 대한 공통 프레임워크와 분류를 정의합니다. 이것이 나의 첫 직업인 전문 재무 위험 관리자의 부상으로 이어졌습니다. 가장 큰 전문 위험 협회인 GARP와 PRMIA는 현재 250,000명 이상의 인증 회원을 보유하고 있으며 특정 인증을 거치지 않은 전문 위험 관리자가 훨씬 더 많습니다.

우리는 지금 데이터 유출과 데이터 프라이버시 스캔들, 그리고 전 세계의 규제 기관은 데이터 규정으로 대응했습니다. GDPR은 현재의 롤 모델입니다.하지만 글로벌 규제 기관 그룹이 AI를 더 광범위하게 다루기 위해 규칙을 확장하고 이를 관리하는 방법에 대한 표준을 설정하기를 기대합니다. UK ICO는 초안을 발표했지만 자세한 가이드는 AI 감사. 그만큼 EU는 하나를 개발 중입니다 또한. 흥미롭게도 그들의 접근 방식은 Basel 표준의 접근 방식과 매우 유사합니다. 특정 AI 위험은 명시적으로 관리해야 합니다. 이것은 전문 AI 위험 관리자의 출현으로 이어질 것입니다.

아래에서 공식적인 AI 위험 관리 역할의 의미를 자세히 설명하겠습니다. 그러나 그 전에 명확히 해야 할 몇 가지 개념이 있습니다.

• 전 세계 대부분의 데이터 규정은 데이터 개인 정보 보호에 중점을 둡니다.
• 데이터 프라이버시는 데이터 보호의 하위 집합입니다. GDPR은 단순한 개인정보 보호 그 이상입니다.
• 데이터 보호는 AI 규제. 후자는 알고리즘/모델 개발도 다룹니다.

글로벌 AI 규제 표준의 부상

바젤 프레임워크는 금융 시장의 안정성을 촉진하기 위해 국제결제은행(BIS)에서 개발한 일련의 국제 은행 규제 표준입니다. BIS 자체에는 규제 권한이 없지만 '중앙 은행의 중앙 은행'이라는 위치는 바젤 규정을 세계 표준으로 만듭니다. 기준을 작성한 바젤 은행 감독 위원회(BCBS)는 전 세계 금융 위기 시기에 구성되었습니다. 10년 1974명의 중앙은행 총재 그룹으로 시작하여 현재 45개 관할 구역의 28명의 회원으로 구성되어 있습니다.

최근 개인정보 침해 및 스캔들을 감안할 때 GDPR은 데이터 세계에 해당하는 바젤 표준으로 볼 수 있습니다. 그리고 EDPS(European Data Protection Supervisor)를 데이터 개인 정보 보호를 위한 BCBS로 볼 수 있습니다. (EDPS는 GDPR의 감독자입니다.) 더 많은 국가가 데이터 보호법을 제정함에 따라 더 많은 글로벌 그룹이 등장할 것으로 기대합니다.

아직 선도적인 알고리즘 규정이 없습니다. GDPR은 그 일부만 다루고 있습니다. 그 이유 중 하나는 알고리즘 자체를 규제하기 어렵다는 것이고, 다른 하나는 알고리즘 규제가 부문별 규제에 내재되어 있기 때문입니다. 예를 들어 Basel은 은행에서 알고리즘을 구축하고 배포하는 방법을 규제합니다. 의료에도 유사한 규정이 있습니다. 잠재적으로 충돌하거나 중복되는 규정으로 인해 더 광범위한 알고리즘 규정을 작성하기가 어렵습니다. 그럼에도 불구하고 EU, 영국 및 싱가포르의 규제 기관은 AI 시스템을 관리하고 감사하는 방법에 대한 자세한 지침을 제공하는 데 앞장서고 있습니다.

공통 프레임워크 및 방법론

Basel I은 1988여 년 전인 2004년에 작성되었습니다. Basel II는 2010년에, Basel III는 XNUMX년에 작성되었습니다. 이러한 규정은 위험 모델을 구축하는 방법, 이러한 모델을 지원하는 프로세스 및 위험이 미치는 영향에 대한 표준을 설정합니다. 은행 업무. 이는 은행이 노출된 위험을 논의, 측정 및 평가하기 위한 공통 프레임워크를 제공했습니다. 이것은 EU/UK/SG에서 발행하는 상세한 지침에서 일어나고 있는 일입니다. 모두 위험 기반 접근 방식을 취하고 AI의 특정 위험과 필요한 거버넌스 구조를 정의하는 데 도움을 주고 있습니다.

위: Basel II 프레임워크

위: 영국 ICO 프레임워크

새로운 직업 및 C급 직업

공통 프레임워크를 통해 전문가는 신속하게 개념을 공유하고 지침을 준수하며 관행을 표준화할 수 있습니다. 바젤은 금융 위험 관리자와 전문 위험 협회의 출현으로 이어졌습니다. CRO(최고 위험 책임자)라는 새로운 C급 직위도 만들어졌습니다. 은행 CRO는 다른 경영진과 독립적이며 종종 CEO나 이사회에 직접 보고합니다.

GDPR은 데이터 개인 정보 보호를 위한 이러한 개발을 시작했습니다. 직원이 250명 이상인 조직에는 데이터 보호 책임자(DPO)가 있어야 했습니다. 이로 인해 국제 개인 정보 보호 전문가 협회(International Association of Privacy Professionals)에 대한 새로운 관심이 생겼습니다. 최고 개인 정보 보호 및 데이터 책임자(CPO 및 CDO)도 증가하고 있습니다. 광범위한 AI 규정이 도입됨에 따라 전문 AI 위험 관리자와 이를 중심으로 글로벌 전문가 커뮤니티가 형성될 것입니다. DPO는 첫 번째 반복입니다.

전문 AI 위험 관리자는 무엇을 필요로 하거나 수행해야 합니까?

이 직무는 재무 위험 관리자와 데이터 보호 담당자의 일부 직무와 기술을 결합합니다. 재무 위험 관리자는 모델을 구축, 평가 및 설명할 수 있는 기술이 필요합니다. 그들의 주요 임무 중 하나는 은행의 대출 모델이 개발되고 배포될 때 감사하는 것입니다. DPO는 내부 규정 준수를 모니터링하고 DPIA(데이터 보호 영향 평가)를 수행하며 최고 경영자 및 규제 기관의 연락 창구 역할을 해야 합니다. AI 위험 관리자는 기술적으로 능숙하면서도 규정을 잘 이해하고 있어야 합니다.

이것이 혁신에 의미하는 바는 무엇입니까?

AI 개발은 훨씬 더 느릴 것입니다. 규제는 은행이 AI 혁신의 최전선에 있지 않은 주된 이유입니다. 대출 모델은 내부 및 외부 당사자의 추가 감사 작업을 피하기 위해 수년간 업데이트되지 않습니다.

그러나 AI 개발도 훨씬 더 안전할 것입니다. AI 위험 관리자는 모델의 목적을 명시적으로 정의하고 필요한 데이터만 교육을 위해 복사하도록 요구합니다. 데이터 과학자의 노트북에는 더 이상 민감한 데이터가 없습니다.

이것이 스타트업에게 의미하는 바는 무엇입니까?

전문 AI 위험 관리자의 등장은 데이터 개인 정보 보호 및 AI 감사를 구축하는 신생 기업에 도움이 될 것입니다.

데이터 프라이버시. 개인 데이터에 대한 모델을 개발하려면 자동으로 DPIA가 필요합니다. 데이터 과학자가 프로젝트를 시작하기 전에 승인을 요청해야 한다고 상상해 보십시오. (힌트: 좋지 않음) 이 문제를 해결하기 위해 데이터 과학자는 DPIA를 피할 수 있도록 대규모 데이터를 익명화하거나 합성 데이터를 생성하는 도구를 원할 것입니다. 따라서 스타트업을 위한 기회는 두 가지입니다. 규정을 준수하는 소프트웨어에 대한 수요가 있고 정교한 합성 데이터 솔루션과 같이 이러한 규정에 대한 해결 방법을 제공하는 소프트웨어에 대한 수요가 있습니다.

AI 감사. 모델 정확도는 이미 일반적인 평가 기술이 있는 AI 관련 위험 중 하나입니다. 그러나 다른 AI 관련 위험은 없습니다. 공정성과 투명성을 감사하는 기준은 없습니다. AI 모델을 적대적 공격에 강력하게 만드는 것은 여전히 ​​활발한 연구 영역입니다. 따라서 이것은 스타트업, 특히 설명 가능한 AI 공간에 있는 스타트업이 표준을 정의하고 선호하는 벤더가 되는 데 도움이 되는 열린 공간입니다.

Kenn So는 샤스타 벤처스 AI/스마트 소프트웨어 스타트업에 투자합니다. 그는 이전에 Ernst & Young에서 은행 모델을 구축하고 감사하는 직원이었고 Basel 표준에서 나온 재무 위험 관리자 중 한 명이었습니다.