미국 정보기관이 익명의 글의 저자를 판별하는 동시에 단어를 미묘하게 변경하여 저자의 신원을 가장할 수 있는 인공 지능을 개발하는 프로그램을 시작했습니다.

IARPA(Intelligence Advanced Research Projects Activity)의 HIATUS(Human Interpretable Attribution of Text Using Underlying Structure) 프로그램은 ODNI(Office of the Director of National Intelligence)에서 "언어 지문"을 수행할 수 있는 소프트웨어를 구축하는 것을 목표로 합니다. 말했다.

“인간과 기계는 매일 방대한 양의 텍스트 콘텐츠를 생성합니다. 텍스트에는 저자의 정체성을 드러낼 수 있는 언어적 특징이 포함되어 있습니다.” IARPA 말했다 [PDF].

IARPA는 올바른 모델을 사용하면 다양한 샘플에서 작가 스타일의 일관성을 식별하고, 이러한 언어 패턴을 수정하여 쓰기를 익명화하고, 초보자 사용자가 설명할 수 있는 방식으로 모든 작업을 수행할 수 있다고 믿습니다. HIATUS AI는 또한 언어에 구애받지 않아야 합니다. 

HIATUS 프로그램 관리자인 Dr Timothy McKinnon은 "우리는 목표를 달성하고 정보 커뮤니티에 필요한 기능을 제공하고 컴퓨터 언어학 및 딥 러닝의 최신 발전을 사용하여 인간 언어의 다양성에 대한 이해를 크게 확장할 수 있는 강력한 기회가 있습니다."라고 말했습니다. .

강력한 모델을 개발하기 위해 HIATUS는 적대적 AI의 문제로 목표에 접근할 계획입니다. 저자 속성과 텍스트 익명화는 동일한 문제의 양면이므로 HIATUS 실험 그룹이 서로 겨루게 됩니다. 

IARPA는 "저작자 표시 시스템은 대규모 컬렉션에서 동일한 저자의 항목을 일치시키는 능력으로 평가되는 반면, 개인 정보 보호 시스템은 저작자 표시 시스템을 방해하는 능력으로 평가됩니다."라고 말했습니다.

기관은 또한 HIATUS AI에 대한 설명 가능성 표준을 개발할 계획이라고 밝혔습니다. 

맥키 넌 말했다 HIATUS가 하는 일의 일부는 신경 언어 모델(HIATUS의 노력의 초점)과 관련된 미지의 일부를 풀기 위해 노력하는 것입니다. 블랙 박스 개발자가 특정 결정을 내리는 이유를 모르는 상태에서 작동합니다.

이상적으로 McKinnon은 "저작자 표시를 수행하거나 저작권 보호를 수행할 때 시스템이 왜 그런 식으로 작동하는지 진정으로 이해할 수 있고 가짜 항목을 포착하지 않고 있는지 확인할 수 있습니다. 옳은 일이다.”

성공할 경우 HIATUS는 해외 영향력 활동에 대응하는 것부터 방첩 위험을 식별하고 작업을 위험에 빠뜨릴 수 있는 저자 보호에 이르기까지 광범위한 영향을 미칠 수 있다고 ODNI는 말했습니다. McKinnon은 HIATUS AI가 텍스트가 사람이 작성한 것이 아니라 기계에서 생성한 것인지 식별할 수도 있다고 덧붙였습니다. 

IARPA에서 완료된 연구의 약 70%는 구현을 위해 다른 정부 파트너에게 전달되며 IARPA는 참여하지 않습니다. 즉, 정보 기관에 따르면 확률은 HIATUS에 유리합니다.

그러나 이 기술이 곧 완전한 형태로 나타날 것이라고 기대하지 마십시오. 이제 HIATUS가 시작되었으므로 실험이 종료될 때까지 42개월(XNUMX년 반)이 소요됩니다. McKinnon과 그의 팀이 성공한다면 다른 정부 기관이 HIATUS를 도입할 가능성이 높습니다. ®