무인 자동차와 비행기는 더 이상 미래의 물건이 아닙니다. 샌프란시스코 시에서만 8개의 택시 회사가 2023년 850,000월까지 총 XNUMX만 마일의 자율 주행을 기록했습니다. 그리고 미국에는 군 소유 차량을 제외하고 XNUMX대 이상의 자율 공중 차량(드론)이 등록되어 있습니다.

그러나 안전에 대한 정당한 우려가 있습니다. 예를 들어, 10년 2022월에 끝난 XNUMX개월 동안 미국 도로교통안전국(National Highway Traffic Safety Administration)은 신고 어떤 형태로든 자율 제어를 사용하는 자동차와 관련된 충돌 사고는 거의 400건에 달합니다. 이번 사고로 XNUMX명이 사망하고 XNUMX명이 중경상을 입었다.

이 문제를 해결하는 일반적인 방법(때때로 "탈진에 의한 테스트"라고도 함)은 안전하다고 만족할 때까지 이러한 시스템을 테스트하는 것입니다. 하지만 이 프로세스를 통해 잠재적인 결함이 모두 발견될 것이라고 확신할 수는 없습니다. "사람들은 자원과 인내심이 고갈될 때까지 테스트를 수행합니다."라고 말했습니다. 사얀 미트라, 일리노이 대학교 어바나-샴페인 캠퍼스의 컴퓨터 과학자입니다. 그러나 테스트만으로는 보장을 제공할 수 없습니다.

Mitra와 그의 동료들은 그렇게 할 수 있습니다. 그의 팀은 성공했습니다 증명 전에, 안전한 자동차의 차선 추적 기능과 착륙 시스템 자율 항공기의 경우. 그들의 전략은 현재 항공모함에 드론을 착륙시키는 데 사용되고 있으며, 보잉은 올해 실험용 항공기에서 이를 테스트할 계획입니다. "엔드 투 엔드 안전 보장을 제공하는 방법은 매우 중요합니다."라고 말했습니다. 코리나 파사레아누, Carnegie Mellon University 및 NASA의 Ames Research Center의 연구 과학자입니다.

그들의 작업에는 자율주행차에 정보를 제공하는 데 사용되는 기계 학습 알고리즘의 결과를 보장하는 것이 포함됩니다. 높은 수준에서 볼 때, 많은 자율 차량에는 지각 시스템과 제어 시스템이라는 두 가지 구성 요소가 있습니다. 예를 들어, 인식 시스템은 자동차가 차선 중앙에서 얼마나 떨어져 있는지, 비행기가 어느 방향으로 향하고 있는지, 수평선에 대한 각도가 어느 정도인지 알려줍니다. 이 시스템은 카메라 및 기타 감각 도구의 원시 데이터를 신경망 기반 기계 학습 알고리즘에 공급하여 차량 외부 환경을 재현하는 방식으로 작동합니다.

그런 다음 이러한 평가는 수행할 작업을 결정하는 별도의 시스템인 제어 모듈로 전송됩니다. 예를 들어 다가오는 장애물이 있는 경우 브레이크를 밟을지 아니면 그 주변으로 조종할지 결정합니다. 에 따르면 루카 칼론MIT 부교수는 제어 모듈이 잘 정립된 기술에 의존하는 반면 “인식 결과를 바탕으로 결정을 내리며 그 결과가 정확하다는 보장은 없다”고 말했다.

안전 보장을 제공하기 위해 Mitra 팀은 차량 인식 시스템의 신뢰성을 보장하기 위해 노력했습니다. 그들은 먼저 외부 세계를 완벽하게 렌더링할 수 있어야 안전을 보장할 수 있다고 가정했습니다. 그런 다음 인식 시스템이 차량 주변 환경을 재현하는 데 얼마나 많은 오류가 발생하는지 확인했습니다.

이 전략의 핵심은 오류 대역(Mitra가 표현한 것처럼 "알려진 미지의 요소")으로 알려진 관련 불확실성을 정량화하는 것입니다. 그 계산은 그와 그의 팀이 지각 계약이라고 부르는 것에서 비롯됩니다. 소프트웨어 엔지니어링에서 계약은 컴퓨터 프로그램에 대한 특정 입력에 대해 출력이 지정된 범위 내에 속한다는 약속입니다. 이 범위를 알아내는 것은 쉽지 않습니다. 자동차의 센서는 얼마나 정확합니까? 드론은 얼마나 많은 안개, 비, 태양광을 견딜 수 있나요? 그러나 차량을 특정 불확실성 범위 내에서 유지할 수 있고 해당 범위의 결정이 충분히 정확하다면 Mitra 팀은 차량의 안전성을 보장할 수 있음을 입증했습니다.

이는 부정확한 속도계를 가진 누구에게나 익숙한 상황입니다. 장치가 시속 5마일 이상 벗어나지 않는 경우에도 항상 제한 속도(신뢰할 수 없는 속도계에 표시된 대로)보다 5마일 낮게 유지하여 과속을 피할 수 있습니다. 인식 계약은 기계 학습에 의존하는 불완전한 시스템의 안전에 대한 유사한 보장을 제공합니다.

Carlone은 “완벽한 인식은 필요하지 않습니다.”라고 말했습니다. "당신은 안전을 위험에 빠뜨리지 않을 만큼 충분히 좋기를 원할 뿐입니다." 팀의 가장 큰 공헌은 "인식 계약의 전체 아이디어를 소개"하고 이를 구성하는 방법을 제공하는 것이라고 그는 말했습니다. 그들은 시스템의 동작이 일련의 요구 사항을 충족하는지 확인하는 수학적 방법을 제공하는 공식 검증이라는 컴퓨터 과학 분야의 기술을 활용하여 이를 수행했습니다.

Mitra는 "신경망이 어떻게 작동하는지 정확히 알지 못하더라도 신경망 출력의 불확실성이 특정 범위 내에 있음을 수치적으로 증명하는 것이 여전히 가능하다는 것을 보여주었습니다."라고 Mitra는 말했습니다. 그리고 그렇다면 시스템은 안전할 것입니다. "그러면 우리는 주어진 신경망이 실제로 이러한 경계를 충족하는지 여부(그리고 어느 정도)에 대한 통계적 보증을 제공할 수 있습니다."

항공우주회사 시에라 네바다(Sierra Nevada)는 현재 항공모함에 드론을 착륙시키면서 이러한 안전 보장을 테스트하고 있습니다. 이 문제는 비행에 관련된 추가적인 차원 때문에 어떤 면에서는 자동차를 운전하는 것보다 더 복잡합니다. "착륙에는 두 가지 주요 임무가 있습니다." 드라고스 마르기네안투, 보잉의 AI 수석 기술 전문가는 “비행기를 활주로에 맞춰 정렬하고 활주로에 장애물이 없는지 확인합니다. Sayan과의 작업에는 이 두 가지 기능에 대한 보장이 포함됩니다.”

"사얀의 알고리즘을 사용한 시뮬레이션은 [착륙 전 비행기의] 정렬이 확실히 향상되는 것을 보여줍니다."라고 그는 말했습니다. 올해 말로 계획된 다음 단계는 실제로 보잉 실험 항공기를 착륙시키면서 이러한 시스템을 사용하는 것입니다. Margineantu는 가장 큰 과제 중 하나는 우리가 모르는 것이 무엇인지 알아내는 것, 즉 "추정의 불확실성을 결정하는 것"을 파악하고 그것이 안전에 어떤 영향을 미치는지 확인하는 것이라고 말했습니다. "대부분의 오류는 우리가 알고 있다고 생각하는 일을 할 때 발생합니다. 그러나 알고 보니 그렇지 않은 것으로 나타났습니다."