규제 당국은 '설명 가능성'을 두고 씨름합니다

Explainability Cruise가 포함된 레귤레이터 Westle

샌프란시스코 시 교통국(SFMTA)이 미국 고속도로 교통 안전국(NHTSA)에 보낸 서한은 현재 자동화된 차량 기술의 주요 약점인 설명 가능성에 대해 밝은 조명을 비추고 있습니다. 이 서한은 GM의 Cruise Automation Origin 차량이 공공 도로에서 무인으로 운행하기 위한 기존 안전 규정의 면제를 요청한 General Motors의 요청에 대해 NHTSA가 이해 관계자의 의견 요청에 대한 응답입니다.

이 서한은 Chevy Bolts를 기반으로 한 Cruise의 기존 자율 주행 차량 함대의 성능 부족과 기관이 표명한 여러 우려 사항에 대한 Cruise의 대응에 대한 기관의 실망을 강조합니다. 이 서한은 또한 연방 및 지방 당국의 충돌하는 관할권을 강조하지만 Cruise가 샌프란시스코 거리 또는 실제로 모든 도시의 거리에서 수백 또는 수천 대의 차량을 풀어 놓을 수 있는 잠재적인 부정적인 영향에 대한 경고도 제기합니다. .

SFMTA의 우려의 핵심은 Cruise가 차량의 일상적인 작동에 관한 질문이나 특정 사건에 관한 우려에 응답하지 못한 것뿐만 아니라 차량이 어떻게 또는 왜 무엇을 하는지 설명하는 Cruise의 능력에 대한 질문을 제기합니다. 그들은하고있어. 이 고장은 사용자나 제작자가 자신의 알고리즘 결과를 설명할 수 없는 인공 지능 및 기계 학습 기술의 단점을 반영합니다.

NHTSA가 Autopilot 또는 Full-Self-Driving으로 작동하는 Tesla의 차량을 괴롭히는 가상 제동 사고에 대한 조사를 시작한 올해 초 이 설명 가능성 붕괴의 첫 번째 증거가 나타났습니다. Tesla 차량은 고속도로에서 주기적으로 정차하는 것으로 알려져 있으며 회사는 문제를 설명하거나 해결할 수 없습니다.

이 경험은 수년 전 Toyota 자동차를 강타한 "의도하지 않은 가속" 사건을 반영했으며 의회 조사와 NHTSA가 NASA(National Aeronautic and Space Administration)를 대상으로 이 현상을 설명하기 위해 노력했습니다. 물론 Toyota 사건은 인공 지능이나 기계 학습과 관련이 없습니다.

SFMTA 서한은 크루즈 차량이 이유 없이 교통 흐름의 중간 블록에서 속도를 늦추거나 멈추는 여러 가지 상황을 인용합니다. 여기에는 비상 대응자가 방해를 받는 상황도 포함됩니다. 기관은 또한 크루즈 차량이 교통 차선에서 벗어나 승객을 태우거나 내리기 위해 이용 가능한 연석 공간으로 이동하지 않는 것에 대해 불만을 표명했습니다.

기관은 차량 고장이 발생할 경우 Cruise의 대응 적시성에 대해 추가로 질문을 제기했습니다. 이러한 상황에서 크루즈 직원과의 연락이 지연되고 크루즈 직원이 작동하지 않는 크루즈 차량을 구조하기 위해 오는 추가 지연이 발생했습니다.

SFMTA의 우려는 스티어링 휠과 브레이크 및 가속 페달이 장착된 Bolt 기반 Cruise 차량이 이러한 수동 차량 제어가 없는 훨씬 더 큰 Cruise Origin 차량으로 대체될 것이라는 예상으로 인해 높아졌습니다. 사실, 그러한 통제의 부족은 GM이 무려 5,000대의 Cruise Origin AV에 대한 규제 면제를 요청하는 동기입니다.

크루즈 직원은 Bolt 기반 AV를 쉽게 재배치하거나 제거할 수 있지만 Origin 차량 고장으로 인해 차량을 제거하거나 재배치하기 위해 플랫베드 또는 견인 트럭이 개입해야 할 것으로 예상됩니다.

그러나 SFMTA의 가장 큰 우려 사항 중 하나는 서신의 앞부분에 표현된 바와 같이 샌프란시스코에서 운영되는 스티어링 휠 없는 자율주행차의 예상되는 영향입니다. SFMTA의 자체 연구에 따르면 5,700년 전 총 25대의 Uber 및 Lyft 차량 도입이 당시 도시 전체 여행 지연의 XNUMX%를 차지했습니다.

운전자 없이 샌프란시스코에서 운영되는 Cruise의 현재 함대는 현재 100대 미만의 차량으로 구성되어 있습니다. SFMTA에 따르면 이 회사는 20,000월 22일까지 XNUMX마일 미만의 자율 주행을 기록했습니다.

Cruise가 현지 규제 당국에 적절하게 대응하지 못하거나 차량의 고장 또는 특이한 기능을 설명하지 못한 것은 AV 산업의 중요한 전환점이 되었습니다. SFMTA는 현재 낮은 온로드 볼륨에서도 무인 크루즈 차량의 불규칙한 행동 또는 명백한 고장과 관련하여 응급 구조대에 대한 911 호출이 크게 증가했다고 보고했습니다.

Cruise는 마케팅 메시지로 대중에게 다가가고 자체, 운영 및 목표를 설명하기 위해 약간의 노력을 기울였습니다. 이러한 종류의 봉사 활동이 절실히 필요한 더 두드러진 권한은 크루즈 차량의 진화하는 운영상의 단점과 그에 대한 대중의 반응에 대처해야 하는 SFMTA와 지역 비상 대응자입니다.

Waymo의 AV 작동으로 인해 그러한 불만이나 푸시백이 거의 발생하지 않았다는 점은 주목할 가치가 있습니다. Waymo는 지금까지 NHTSA의 면제가 필요하지 않은 전통적으로 장착되고 규정을 준수하는 차량으로 운영해 왔습니다.

SFMTA는 편지를 통해 Cruise가 자체적으로 수백 또는 수천 대의 무인 AV를 샌프란시스코 거리에 도입하기로 결정할 수 있는 악몽 시나리오를 상정합니다. GM에서 NHTSA에 대한 면제 요청은 SFMTA가 그러한 장래의 배치의 영향을 숙고하도록 강요합니다.

평균적인 샌프란시스코 원주민에게 편지는 도시가 로보택시가 실제로 원하는 운송 목표라고 결정할 때까지 모든 로보택시 활동에 제동을 걸 시간이 될 수 있음을 시사합니다. 이것이 가능하지 않음에 대한 한 가지 힌트는 장애가 있는 거주자를 위한 편의 시설에 대해 SFMTA가 표명한 추가 반대 및 우려입니다. SFMTA가 그러한 주민들을 위해 Uber와 Lyft로부터 적절한 양보를 얻을 수 있었던 것은 주요 규제 및 법적 분쟁 후에야 가능했습니다.

결국 크루즈는 깨끗이 와서 자신의 행동을 정리해야 합니다. 그리고 SFMTA는 이제 모든 지방자치단체가 반드시 물어야 할 질문을 제기했습니다. 우리는 로보택시를 원하는가? 우리는 그들이 어떻게 작동하기를 원합니까? 얼마나 많은 사람들을 수용할 준비가 되어 있습니까?

SFMTA의 편지: https://regmedia.co.uk/2022/09/26/letter_to_nhtsa.pdf