캠브리지, 질량, 8 월 10, 2023 / PRNewswire / - RTX(NYSE: RTX 확장) BBN 사업부, DARPA의 “순간에” 프로그램. ITM은 대량 사상자 분류 및 재해 구호와 같은 시나리오에서 독립적으로 의사 결정을 내리는 데 신뢰할 수 있는 알고리즘에 필요한 토대를 개발하는 것을 목표로 합니다. 이 경우 종종 인간의 합의가 없고 명확한 정답이 없는 역동적인 상황에서 복잡하고 신속한 결정이 필요합니다.

“ITM은 AI가 매우 통제된 시나리오에서 정답을 제공하도록 하는 것 이상입니다. 우리는 X-Ray에서 암 종양을 식별하는 데 도움이 되도록 레이블이 지정된 데이터에 대해 AI를 교육하는 것에 대해 말하는 것이 아닙니다.”라고 말했습니다. 앨리스 렁, Raytheon BBN 수석 수사관. “대신 우리가 달성하려는 것은 통제되지 않은 환경에서 인간이 독립적으로 결정을 내릴 수 있는 AI 시스템을 만드는 능력입니다. 이를 달성하려면 인간 전문가가 어떻게 정말 어려운 결정을 내리는지 확인하고 다른 사람의 결정을 신뢰할 수 있는지 여부를 평가해야 합니다. 우리는 의사 결정 연구와 신뢰 연구를 모두 수행할 것입니다.”

Kairos Research, MacroCognition 및 Valkyries Austere Medical Solutions를 포함하는 Raytheon BBN 주도 팀은 인지적 인터뷰 기술을 사용하여 전문가(이 경우 의료 전문가 및 최초 대응자)가 정보를 평가하고 어려운 절충안을 만드는 방법을 이해할 것입니다. 중요한 결정 지점에서 단호하게 행동하십시오. 이 정성적 정보는 개인의 의사 결정 속성의 차이가 선택을 설명할 수 있는 방법과 서로 다른 두 사람 간의 속성 정렬이 다른 사람에게 결정을 위임하려는 의지에 어떻게 영향을 미치는지 연구하기 위해 시나리오 기반 실험을 설계하는 데 사용됩니다. 이를 통해 AI는 전문가 모집단과 일치하도록 조정되거나 개별 전문가와 일치하도록 조정될 수 있습니다.

"우리가 결정을 내리는 방식은 사람마다 다르기 때문에 모든 신뢰할 수 있는 AI 모델에 맞는 단일 크기가 존재할 가능성은 낮습니다."라고 Leung은 말했습니다. “대신 이론적으로는 사용자와 도메인에 적응하는 AI 시스템을 만들 수 있어야 합니다. 경쟁 목표 간의 불확실성과 절충안으로 인해 결정이 어렵습니다. 우리는 사용자 또는 사용자 그룹에 더 잘 맞도록 위험 허용, 프로세스 초점 또는 계획 변경 의지와 같은 AI의 속성을 조정할 수 있기를 원합니다.”  

DARPA는 이 프로그램에 협력하기 위해 여러 팀을 모으고 있습니다. 다른 팀은 기본 지식으로 시작한 다음 일련의 목표 속성과 일치하도록 조정할 수 있는 프로토타입 AI 의사 결정자의 개발에 집중할 것입니다. 이 프로그램의 연구 제품은 어려운 시나리오에 직면했을 때 알고리즘 에이전트가 대상 인간 속성과 일치하는 결정을 얼마나 잘 내릴 수 있었는지 결정하기 위해 통합 및 평가됩니다. 이 프로그램은 또한 인간 전문가가 기본 에이전트 또는 다른 실제 인간보다 이러한 정렬된 에이전트를 신뢰하는지 여부를 테스트합니다. 이러한 신뢰 프로그램 평가에서 인간 전문가는 의사 결정자가 AI인지 인간인지 모른 채 어려운 시나리오에서 의사 결정 기록을 볼 수 있습니다.  

DARPA와 공군 연구소가 후원하는 이 계약에 대한 작업은 케임브리지, 매사추세츠; 데이턴, 오하이오및 애니스톤, 앨라배마.

레이시온 BBN 소개 

1948년에 설립된 Raytheon BBN은 국가 안보 우선순위에 중점을 둔 첨단 기술 연구 및 개발을 제공합니다. ARPANET에서 최초의 이메일에 이르기까지 Raytheon BBN은 고객을 위한 혁신적인 솔루션을 생산하기 위해 고급 연구를 지속적으로 전환하고 있습니다. Raytheon BBN은 분석 및 머신 인텔리전스, 네트워크 및 센서, 지능형 소프트웨어 및 시스템, 물리 과학 분야의 솔루션을 만들기 위해 위험을 감수하고 관례에 도전합니다.

RTX 소개

RTX는 세계 최대의 항공 우주 및 방위 회사입니다. 180,000명 이상의 전 세계 직원과 함께 기술과 과학의 한계를 뛰어넘어 세상을 연결하고 보호하는 방법을 재정의합니다. 업계를 선도하는 기업인 Collins Aerospace, Pratt & Whitney, Raytheon을 통해 우리는 항공을 발전시키고 작전 성공을 위한 통합 방어 시스템을 엔지니어링하며 차세대 기술 솔루션 및 제조를 개발하여 전 세계 고객이 가장 중요한 문제를 해결할 수 있도록 돕고 있습니다. 2022년 매출 67억 달러의 회사는 알링턴에 본사를 두고 있으며, 버지니아의.

• SEO 기반 콘텐츠 및 PR 배포. 오늘 증폭하십시오.
• PlatoData.Network 수직 생성 Ai. 자신에게 권한을 부여하십시오. 여기에서 액세스하십시오.
• PlatoAiStream. 웹3 인텔리전스. 지식 증폭. 여기에서 액세스하십시오.
• 플라톤ESG. 자동차 / EV, 탄소, 클린테크, 에너지, 환경, 태양광, 폐기물 관리. 여기에서 액세스하십시오.
• PlatoHealth. 생명 공학 및 임상 시험 인텔리전스. 여기에서 액세스하십시오.
• 차트프라임. ChartPrime으로 트레이딩 게임을 향상시키십시오. 여기에서 액세스하십시오.
• BlockOffsets. 환경 오프셋 소유권 현대화. 여기에서 액세스하십시오.
• 출처: https://www.darkreading.com/operations/darpa-taps-rtx-to-attune-ai-decisions-to-human-values