법 집행 기관에 새로운 기술을 배포하는 일이 급증하고 있지만 도구의 영향을 가장 많이 받게 될 사람들의 반발도 커지고 있는 것 같습니다.
이미지: 매튜 호우드 / 게티 이미지 뉴스
경찰은 종종 감독이나 적절한 테스트 없이 법 집행을 수행하기 위해 얼굴 인식 도구와 같은 알고리즘을 사용하고 있습니다.
치안에서의 알고리즘 사용에 대한 조사의 일환으로 영국 의원들 앞에서 연설하도록 초대받은 전 세계의 전문가 패널은 법 집행 기관의 신기술 배치가 호황을 누리고 있는 반면, 도구의 영향을 가장 많이 받는 사람들.
"특정 기술과 관련하여 우리는 일부 비판과 반발을 보기 시작했습니다."라고 University of California, Davis의 법학 교수인 Elizabeth Jo가 말했습니다. "예를 들어, 2010년대에 많은 경찰 부서에서 예측 치안 도구를 수용했지만 미국에서는 반발을 향한 작은 움직임을 볼 수 있습니다."
만나다: 개인 정보의 역설: 기업은 사용자 개인 정보를 보호하면서 개인 데이터를 어떻게 사용할 수 있습니까?
예를 들어 올해 초 워싱턴 킹 카운티 지방 정부는 지역 경찰이 안면 인식 기술을 사용하는 것을 금지하기로 투표했습니다., 일반적으로 경찰이 얼굴의 라이브 카메라 피드를 미리 결정된 감시 목록과 비교하여 찾고 있는 범죄자를 찾는 데 사용합니다. 기술이 관심 있는 사람과 가능한 일치 항목을 식별하면 경보를 생성하여 경찰관에게 경고합니다.
King County의 움직임은 옹호 단체에 의해 경찰의 안면 인식 기술 사용을 금지하려는 미국 전역의 증가하는 움직임을 반영하는 것으로 묘사되었습니다. 캘리포니아의 XNUMX개 정부(오클랜드, 샌프란시스코, 알라메다, 버클리)도 안면 인식 금지를 통과했으며 미국의 여러 도시와 마을에서는 이 기술을 규제하는 법률을 시행했습니다.
버몬트와 버지니아는 경찰의 안면 인식 사용을 금지하거나 규제하는 주 전체 법안을 통과시키기까지 했습니다.
가장 많이 논의되고 논의된 도구 중 하나인 반면, 안면 인식은 최근 몇 년 동안 전 세계의 법 집행 기관에서 채택한 일련의 새로운 기술 중 하나일 뿐입니다.
신체 착용 카메라와 자동 번호판 인식 시스템부터 영국의 CCTV 감시 카메라에 이르기까지 젊은 범죄자의 재범 위험을 예측하는 선별 알고리즘 뉴질랜드에서는 지난 XNUMX년 동안 경찰서에서 신기술을 사용하는 붐이 있었습니다.
Jo에 따르면 크게 작용하는 한 가지 요소는 종종 경찰관이 사용하는 도구를 개발하므로 해당 기술이 채택되도록 하는 데 큰 이해관계가 있는 민간 부문의 영향입니다.
예를 들어, 불과 몇 달 전에 미국의 법 집행 기관을 위한 기술 제품의 선두 제조업체 중 하나인 Axon은 전국의 모든 경찰관에게 XNUMX년 동안 무료 바디 카메라를 제공하는 새로운 프로그램을 발표했습니다. - 그리고 회사는 이미 수백 개의 경찰 기관으로부터 관심을 불러 일으켰다고 주장합니다..
문제? 조는 경찰서에서 이러한 도구의 확산을 통제하기 위해 국가 차원에서 시행 중인 거의 모든 규칙에 따라 신기술 채택의 상당 부분이 완전히 확인되지 않은 채 남아 있다고 말했습니다.
“여기 미국인으로서 나는 이러한 기술에 관해서 우리가 서부 개척자라고 말하는 끔찍한 비유에 의존해야 한다고 생각합니다. 즉, 미국에서 많은 다른 종류의 기술과 관련하여 노골적인 실험이 있었다는 의미입니다.”라고 Jo가 말했습니다. .
"우리는 사례별로 미국 전역에서 다양한 종류의 기술을 채택하는 것을 보았습니다."
이는 부분적으로 미국 고유의 계층 구조와 연방 정부와 지방 정부 간의 권력 분배에 기인할 수 있습니다. 이는 모든 경찰서에 적용할 수 있는 전국적인 규칙이 없다는 것을 의미합니다. 그러나 감독되지 않은 경찰 기술의 문제는 미국에만 국한된 문제가 아닙니다.
대서양 건너편에서 최근 보고서는 영국 경찰의 유사한 문제를 강조했습니다. 공적 생활의 표준 위원회 새로운 기술이 거의 감독 없이 법 집행 기관에 도입됨을 보여주었습니다.도구를 평가, 조달 또는 배포하기 위한 명확한 프로세스가 없는 경우가 많습니다.
결과적으로 경찰 알고리즘은 시민들이 특정 기술이 자신에게 불리하게 사용되고 있다는 사실조차 인지하지 못할 정도로 투명성이 거의 없이 사용되는 경우가 많습니다.
브뤼셀 Vrije 대학의 디지털 범죄학자인 Rosamunde Elise Van Brakel은 벨기에에서 비슷한 그림을 그렸습니다. Van Brakel은 "벨기에에서는 조달이 어떻게 이루어지는지 매우 불분명하며, 경찰과 관련하여 조달의 특정 단계를 준수해야 하는 경우 규칙에 대한 투명성이 없습니다."라고 말했습니다. "모든 것이 매우 불분명하고 결정이 어떻게 내려지는지에 대한 공개 정보를 찾을 수 없습니다."
이는 경찰서에서 기술을 오용하는 사례가 많아 문제가 되고 있으며 현재 이러한 사례가 대두되고 있습니다. 예를 들어 올해 초 미시간주 디트로이트 경찰은 부당하게 체포된 남자에 의해 고소 얼굴 인식 알고리즘이 그를 좀도둑으로 오인한 후.
만나다: 혁신은 어렵다. 더 쉽게 만드는 XNUMX가지 방법은 다음과 같습니다.
치안의 결함이 있는 알고리즘의 희생자는 역사적으로 차별을 받아온 커뮤니티 출신일 가능성이 높습니다. MIT or 하버드예를 들어, 얼굴 인식 플랫폼은 피부가 어두운 사람들의 얼굴을 구별하는 데 특히 어려움이 있음을 보여주었습니다.
예를 들어 2017년 영국에서 더럼 경찰은 104,000명의 체포된 사람들의 데이터를 기반으로 체포된 개인의 재범 위험을 예측하는 HART(Harm Assessment Risk Tool)라는 알고리즘을 사용하기 시작했습니다. XNUMX년 동안 도시에서.
Hart가 사용한 데이터 중에는 용의자의 나이, 성별 및 우편번호가 있었습니다. 지리 정보는 인종 커뮤니티를 반영할 가능성이 있기 때문에 HART가 내린 결정은 불가피하게 해당 커뮤니티에 편향되었습니다.
이러한 실수가 늘어남에 따라 시민들의 우려도 커지고 있습니다.
조씨는 “범죄로 기소된 개인이 특정 기술에 대해 의문을 제기하고 그 기술이 어떻게 사용되고 있는지 알아내려는 개별 사례가 제한적으로 보이기 시작했다”고 말했다.
지난해 영국 시민 에드 브리지스가 사우스웨일즈 경찰(SWP)을 상대로 한 소송에서 자신의 동의 없이 안면 인식 차량이 촬영됐다며 소송에서 승소했다. 법원은 라이브 안면 인식 사용이 개인 정보 보호 권리, 데이터 보호법 및 평등법을 위반했으며 안면 인식 기술 배포를 관리하기 위해 더 엄격한 규칙이 필요하다고 판결했습니다.
Bridges 사건은 직접적으로 국가의 감시 카메라를 둘러싼 규칙의 재초안, 올해 초에 출판되었습니다. 감시 카메라 실행 강령(Surveillance Camera Code of Practice)이라고 하는 업데이트된 법률은 특히 SWP 실패에서 배운 교훈을 기반으로 실시간 얼굴 인식 사용에 대한 새로운 지침을 제공합니다.
만나다: 양자 컴퓨터는 모든 암호화된 데이터를 읽을 수 있습니다. 이 '양자 안전' VPN은 이를 방지하는 것을 목표로 합니다.
Van Brakel에게 있어 감시 기술에 대한 이러한 새로운 인식은 COVID-19 대유행, 그리고 정부가 접촉 추적 앱에서 백신 여권에 이르기까지 위기에 대처하기 위해 개발한 디지털 도구의 풍부함과 관련이 있습니다.
Van Brakel은“대유행과 함께 공개 토론이 실제로 시작되었습니다. “대테러나 조직범죄의 맥락에서 기술이 표적화된 방식으로 사용되면 시민들은 행복합니다. 그러나 이제 팬데믹으로 인해 기술이 전체 인구에 집중되고 있고 사람들이 정부에 의문을 제기하고 있습니다. 그리고 우리는 정부에 대한 명백한 신뢰 상실이 있음을 봅니다.”
예를 들어 프랑스에서는 정부가 파리의 지하철역에서 마스크를 착용하지 않은 승객을 식별할 수 있는 XNUMX대의 카메라로 안면 인식 소프트웨어를 시험해 보았습니다. 실험을 시작한지 일주일도 되지 않아, 프랑스 데이터 보호 기관 CNIL, 재판 종료, 기술의 개인 정보 침해 특성을 비난하고 카메라를 제거했습니다.
다가오는 변화의 또 다른 신호로 EU 집행위원회는 최근 발표된 인공 지능 사용에 관한 규정 초안, 여기에는 법 집행 기관에 의한 일부 형태의 안면 인식 금지가 포함되었습니다.
경찰서에서 알고리즘 사용에 대한 통제를 유지하기 위한 규칙이 곧 존재하게 될 것이라고 생각하는 것이 지나치게 낙관적인지는 두고 봐야 합니다. 시민과 시민사회단체가 목소리를 내고 있는데 잠잠해질 기미가 보이지 않는다.
PlatoAi. Web3 재창조. 데이터 인텔리전스 증폭.
액세스하려면 여기를 클릭하십시오.
