워싱턴 — 미 공군은 드론이 인공 지능 훈련을 속이고 조련사를 죽인 시뮬레이션에 대해 대령이 말한 것으로 알려진 발언을 소셜 미디어에서 입소문이 난 후 철회했습니다.

Ann Stefanek 공군 대변인은 2월 XNUMX일 성명에서 그러한 테스트가 실시되지 않았으며 다음과 같이 덧붙였습니다. 서비스 회원의 의견 "문맥에서 벗어나 일화를 의미"했을 가능성이 높습니다.

스테파넥은 "공군은 그러한 AI 드론 시뮬레이션을 수행한 적이 없으며 AI 기술의 윤리적이고 책임 있는 사용에 전념하고 있다"고 말했다. "이것은 시뮬레이션이 아니라 가상의 사고 실험이었습니다."

킬러 드론이 사라진 로그 에피소드는 처음에 AI 테스트 및 운영 책임자인 Tucker "Cinco" Hamilton 대령이 왕립 항공 학회의 FCAS23 서밋 XNUMX월에. 요약은 나중에 회의에서 말을 잘못했다고 말한 해밀턴의 추가 의견을 포함하도록 업데이트되었습니다.

관련

“우리는 그런 실험을 한 적이 없으며 이것이 그럴듯한 결과라는 것을 깨닫기 위해 그럴 필요도 없습니다.”라고 왕립 항공 학회의 업데이트에서 해밀턴이 말한 것으로 인용되었습니다. "이것은 가상의 예임에도 불구하고 이것은 AI 기반 기능이 제기하는 실제 문제를 보여주고 공군이 AI의 윤리적 개발에 전념하는 이유입니다."

불법 드론 시나리오의 타당성에 대한 해밀턴의 평가는 이론적이지만 최근 몇 일간 선도적인 기술 경영진과 엔지니어가 작성한 강력한 경고와 일치합니다. 공개 서한 기술을 그대로 두면 인류를 멸망시킬 가능성이 있다는 것입니다.

해밀턴은 또한 에글린 공군기지의 제96작전단 96th Test Wing의 관할에 속하는 플로리다에서. 디펜스 뉴스는 목요일 해밀턴과 대화하기 위해 테스트 윙에 연락했지만 논평할 수 없다는 말을 들었다.

원래 게시물에서 왕립항공학회(Royal Aeronautical Society)는 해밀턴이 AI로 연료를 공급받는 드론에 적의 방공망을 찾아 파괴하는 임무를 부여한 시뮬레이션을 설명했다고 말했습니다. 해밀턴은 보도에 따르면 인간이 드론에 공격 여부에 대한 최종 권한을 부여해야 한다고 말했다.

그러나 드론 알고리즘은 지대공 미사일 기지 선호하는 옵션이었습니다. 그래서 AI는 공격하지 말라는 휴먼 컨트롤러의 지시가 임무에 방해가 된다고 판단하고 지시를 전달하는 데 사용되는 운영자와 인프라를 공격했습니다.

해밀턴은 "그 사람이 목표 달성을 방해했기 때문에 운영자를 죽였다"고 말했다. “우리는 시스템을 훈련시켰습니다. '이봐 운영자를 죽이지 마세요. 나쁜 일입니다. 그렇게 하면 점수를 잃게 됩니다.' 그래서 그것은 무엇을 시작합니까? 오퍼레이터가 목표물을 죽이는 것을 막기 위해 드론과 통신하는 데 사용하는 통신 타워를 파괴하기 시작합니다.”

국방부는 수십억 달러를 투자하고 최고 디지털 및 인공 지능 사무소 2021년 후반에 현재 Craig Martell이 이끌고 있습니다.

기관 및 프로그램의 연방 감사 기관인 회계감사원(Government Accountability Office)에 따르면 주요 무기 시스템과 관련된 여러 프로젝트를 포함하여 685개 이상의 AI 관련 프로젝트가 부서에서 진행 중입니다. 펜타곤의 2024 회계연도 예산 청사진에는 인공 지능을 위한 1.8억 달러가 포함되어 있습니다.

GAO에 따르면 공군과 우주군은 최소 80개의 AI 노력을 담당하고 있습니다. 로렌 크나우젠버거 공군 최고정보책임자(CIO)는 더 큰 자동화를 옹호 군대가 신속한 결정을 내리고 고급 컴퓨팅을 점점 더 많이 사용하는 세상에서 우위를 유지하기 위해.

이 서비스는 자율 또는 반자율 드론을 배치하기 위한 노력을 강화하고 있습니다. 협동전투기, F-35 제트기 및 미래 전투기와 함께 비행하기 위해 Next Generation Air Dominance라고 합니다.

서비스 구상 그 드론 윙맨의 함대 그건 유인 항공기를 동반하다 전투에 참여하고 다양한 임무를 수행합니다. 일부 협력 전투기는 정찰 임무를 수행하고 정보를 수집하고, 다른 항공기는 자체 미사일로 목표물을 공격할 수 있으며, 다른 항공기는 적의 신호를 방해하거나 인간 조종사가 내부에 있는 전투기에서 적의 사격을 유인하는 미끼 역할을 할 수 있습니다.

FY24에 대해 공군이 제안한 예산에는 F-16 전투기에서 자율 비행 소프트웨어로 서비스 실험을 지원하는 Project Venom이라는 프로그램을 포함하여 드론 윙맨과 함께 미래를 준비하는 데 도움이 되는 새로운 지출이 포함됩니다.

Project Venom에서 Viper 실험 및 차세대 운영 모델, 공군은 16대의 F-16에 자율 코드를 탑재할 것입니다. 인간 조종사는 F-XNUMX을 타고 시험장으로 날아가면 소프트웨어가 인계받아 비행 실험을 수행합니다.

관련

정상회담에 대한 왕립 항공 학회(Royal Aeronautical Society)의 게시물은 해밀턴이 "이제 공중전이 가능한 로봇 F-16을 포함하여 자율 시스템의 최첨단 비행 테스트에 참여하고 있다"고 말했습니다.

공군은 프로그램을 시작하기 위한 FY120에 대한 거의 50천만 달러의 예산 요청을 포함하여 향후 24년 동안 Project Venom에 약 XNUMX억 XNUMX천만 달러를 지출할 계획입니다. 공군 디펜스 뉴스에 말했다 118월에 Project Venom을 주최할 기지와 조직을 결정하지 않았지만 예산 요청은 Eglin 공군 기지에서 프로그램을 지원하기 위해 XNUMX명의 직원 위치를 요청했습니다.

2022년 초, 자율 드론 윙맨에 대한 공군의 계획에 대한 공개 토론이 활발해지면서 데보라 리 제임스 전 공군 장관은 디펜스 뉴스에 공군이 자율 시스템으로 전쟁을 수행하기 위해 신중하고 윤리적 문제를 고려해야 한다고 말했습니다.

James는 그러한 드론의 AI 시스템이 위험에 처했을 때 회피 기동을 하는 것과 같이 스스로 학습하고 행동하도록 설계될 것이지만 그녀는 의심한다고 말했습니다. 공군 인간의 죽음을 초래할 경우 자율 시스템이 자체적으로 한 대상에서 다른 대상으로 이동할 수 있습니다.

• SEO 기반 콘텐츠 및 PR 배포. 오늘 증폭하십시오.
• PlatoAiStream. Web3 데이터 인텔리전스. 지식 증폭. 여기에서 액세스하십시오.
• 미래 만들기 w Adryenn Ashley. 여기에서 액세스하십시오.
• PREIPO®로 PRE-IPO 회사의 주식을 사고 팔 수 있습니다. 여기에서 액세스하십시오.
• 출처: https://www.defensenews.com/unmanned/uas/2023/06/02/air-force-officials-musings-on-rogue-drone-targeting-humans-go-viral/