다음과 같은 대규모 언어 모델 ChatGPT Claude는 다양한 혜택을 제공합니다. 어플리케이션. 그러나 악의적인 정보 운영의 위협에 대한 견고하고 통합된 방어를 구축하기 위해 파트너 국가 간에 조정된 노력을 요구하는 사용과 관련된 상당한 위험이 있습니다.

대규모 언어 모델은 창의적인 스토리 플롯 생성, 마케팅 캠페인 제작, 심지어 개인화된 레스토랑 추천 생성에 도움이 될 수 있습니다. 그러나 그들은 종종 확실하게 잘못된 텍스트를 생성합니다. 이 디자인은 인공 지능의 일상적인 사용뿐만 아니라 미국 국가 안보에도 심오한 영향을 미칩니다.

AI로 생성된 콘텐츠는 "진실” — 2000년대 초 텔레비전 진행자 Stephen Colbert가 정보가 옳다고 느낄 수 있는 방법을 설명하기 위해 만든 문구입니다. 이 개념은 사실적 정확성이 부족함에도 불구하고 매우 일관된 논리적 구조를 가진 콘텐츠가 어떤 것이 사실인지 아닌지를 똑똑하고 세련된 사람들이 결정하는 방식에 영향을 미칠 수 있음을 강조합니다.

우리의 인지 편향은 잘 쓰여진 콘텐츠나 매력적인 시각 자료가 주장을 실제보다 더 사실처럼 보이게 만드는 힘이 있음을 의미합니다. '진리'를 연구한 한 학자로서 그것을 설명한다.: "일을 처리하기 쉽게 느낄 때 신뢰할 수 있다고 느낍니다."

미국의 적들은 AI 모델이 인간의 글을 모방할 수 있는 일관되고 잘 구조화되고 설득력 있는 문장을 만들어 "진실"하게 들리도록 잠재력을 조작하여 이점을 얻을 수 있습니다. 전 세계적으로 도달할 수 있는 인터넷은 진실성에 대한 전복적인 침입을 통해 외국의 간섭을 위한 강력한 매체를 만들었습니다.

국가 행위자는 디지털 기술을 활용하여 적대적인 정보 캠페인을 실행하고 온라인 도구와 정보 운영을 사용하여 이익을 증진하고 있습니다. 국가 활동가는 인지 유창성 편향과 진실성을 조작하여 사회정치적 영역을 형성할 수 있으며, 악의적인 정보 운영, 대규모 스피어 피싱 캠페인 및 점점 더 믿을 수 있는 딥페이크 미디어를 위한 AI 기반 언어 모델의 오용 가능성을 확대할 수 있습니다.

정보 운영에서 인지 유창성 편향을 악용하면 잘못된 정보에 기만적인 신뢰성의 겉치장을 제공하여 정치 시스템과 사회적 일관성을 불안정하게 만들 수 있습니다.

마이크로소프트의 브래드 스미스 회장은 25월 XNUMX일 연설에서 미국은 "특히 러시아 정부, 중국, 이란이 이미 수행하고 있는 외국 사이버 영향력 작전에 대해 우리가 가장 우려하는 것을 해결해야 할 것입니다."

러시아 해커의 조잡한 딥페이크 시도 볼로디미르 젤렌스키 우크라이나 대통령이 우크라이나인들에게 무기를 내려놓으라고 요구하는 모습을 묘사하는 것은 쉽게 식별할 수 있습니다. 그러나 이제 문제가 더 이상 학문적이지 않다는 것이 분명합니다. 악성 비디오, 위조 문서 및 위조된 소셜 미디어 계정이 조잡하게 보이는 것에서 기만적인 진정성을 전달하는 것으로 전환될 수 있는 현실이 다가오고 있습니다.

허위 정보에 의존하는 전복 캠페인의 급증과 악의적 행위자들의 강화된 노력은 미국과 동맹국의 전략적 대응의 필요성을 강조합니다. 이러한 추세에 대처하기 위해 미국 정책입안자들은 경계심 있는 모니터링, 사전 예방적 경고 및 국제 협력을 기반으로 하는 포괄적인 전략이 필요합니다.

이 전략의 초석은 정보 환경을 주의 깊게 모니터링하는 것입니다. AI 및 기계 학습의 발전으로 강화된 지속적인 모니터링은 허위 정보 캠페인을 조기에 감지하고 무력화하는 데 필수적입니다.

이러한 입장은 정보 환경을 "모니터링, 분석, 특성화, 평가, 예측 및 시각화"하는 향상된 기능에 대한 미 국방부의 요청을 반영합니다. 상세한 2016년 "정보 환경 운영 전략"에서. 이를 구현하기 위해 군사 및 정보 기관은 다음을 전담하는 특수 부대가 필요합니다. 정보 전, 수집된 데이터를 해석하고 조치를 취하는 데 필요한 중요한 전문 지식을 제공할 수 있습니다.

미국 정부도 진실을 알리는 동시에 허위 정보를 폭로하는 강력한 경고 시스템이 필요하다. 시의적절하고 효과적인 경고는 거짓 정보로부터 대중을 보호하고 허위 정보 캠페인의 영향을 크게 줄이는 데 도움이 될 수 있습니다. 진실의 힘은 이런 맥락에서 강력한 도구입니다. 거짓의 부식 효과에 대한 효과적인 대책으로 사용됩니다.

마지막으로 국제 동맹국들과의 전략적 파트너십을 강화할 필요가 있다. 악의적인 허위 정보 캠페인의 전 세계적 특성으로 인해 대응 노력이 똑같이 광범위해야 합니다. 이러한 파트너십은 귀중한 지역 지식을 제공하고 신뢰를 조성하며, 둘 다 경고의 신뢰성을 크게 높이고 허위 정보에 대한 사회적 회복력을 강화할 수 있습니다.

Christopher Mouton은 싱크탱크 Rand의 수석 엔지니어이자 Pardee RAND 대학원의 교수입니다.

• SEO 기반 콘텐츠 및 PR 배포. 오늘 증폭하십시오.
• PlatoData.Network 수직 생성 Ai. 자신에게 권한을 부여하십시오. 여기에서 액세스하십시오.
• PlatoAiStream. 웹3 인텔리전스. 지식 증폭. 여기에서 액세스하십시오.
• 플라톤ESG. 자동차 / EV, 탄소, 클린테크, 에너지, 환경, 태양광, 폐기물 관리. 여기에서 액세스하십시오.
• BlockOffsets. 환경 오프셋 소유권 현대화. 여기에서 액세스하십시오.
• 출처: https://www.defensenews.com/opinion/2023/07/20/chatgpt-is-creating-new-risks-for-national-security/