Các mô hình ngôn ngữ lớn như ChatGPT và Claude cung cấp nhiều lợi ích các ứng dụng. Tuy nhiên, có những rủi ro đáng kể liên quan đến việc sử dụng chúng đòi hỏi nỗ lực phối hợp giữa các quốc gia đối tác để tạo nên một hệ thống phòng thủ tích hợp, vững chắc chống lại mối đe dọa của các hoạt động thông tin ác ý.

Các mô hình ngôn ngữ lớn có thể hỗ trợ tạo cốt truyện sáng tạo, xây dựng các chiến dịch tiếp thị và thậm chí tạo các đề xuất nhà hàng được cá nhân hóa. Tuy nhiên, họ thường tạo ra văn bản sai một cách tự tin. Thiết kế này có ý nghĩa sâu sắc, không chỉ đối với việc sử dụng trí tuệ nhân tạo thông thường mà còn đối với an ninh quốc gia của Hoa Kỳ.

Nội dung do AI tạo ra có thể biểu hiện một hiện tượng gọi là “sự thật” — một cụm từ do người dẫn chương trình truyền hình Stephen Colbert đặt ra vào đầu những năm 2000 để mô tả cảm giác thông tin có thể đúng như thế nào. Khái niệm này nhấn mạnh rằng, mặc dù thiếu độ chính xác thực tế, nhưng nội dung có cấu trúc logic chặt chẽ cao có thể ảnh hưởng đến cách những người thông minh, tinh tế quyết định liệu điều gì đó có đúng hay không.

Những thành kiến ​​nhận thức của chúng ta có nghĩa là nội dung được viết tốt hoặc hình ảnh hấp dẫn có khả năng làm cho các tuyên bố có vẻ đúng hơn thực tế. Là một học giả đã nghiên cứu về “sự thật” mô tả nó: “Khi mọi thứ cảm thấy dễ xử lý, chúng sẽ cảm thấy đáng tin cậy.”

Các đối thủ của Hoa Kỳ có thể thao túng tiềm năng để các mô hình AI phát ra âm thanh “thật” — tạo ra các câu mạch lạc, có cấu trúc tốt và thuyết phục, có thể bắt chước cách viết của con người — để giành lợi thế. Internet, với khả năng tiếp cận toàn cầu, đã tạo ra một phương tiện mạnh mẽ cho sự can thiệp của nước ngoài thông qua các cuộc xâm nhập lật đổ tính trung thực.

Các tác nhân nhà nước đang tận dụng các công nghệ kỹ thuật số để thực hiện các chiến dịch thông tin thù địch, sử dụng các công cụ trực tuyến và hoạt động thông tin để thúc đẩy lợi ích của họ. Các tác nhân nhà nước có thể thao túng sự thiên vị về sự lưu loát trong nhận thức và tính trung thực để định hình đấu trường chính trị xã hội, mở rộng khả năng lạm dụng các mô hình ngôn ngữ do AI điều khiển cho các hoạt động thông tin ác ý, các chiến dịch lừa đảo giáo dục quy mô lớn và phương tiện giả mạo ngày càng đáng tin cậy.

Việc khai thác thiên kiến ​​về sự lưu loát nhận thức trong các hoạt động thông tin có thể mang lại cho thông tin sai lệch một lớp vỏ đáng tin cậy, góp phần gây mất ổn định các hệ thống chính trị và sự gắn kết xã hội.

Brad Smith, chủ tịch của Microsoft, nói trong một bài phát biểu ngày 25 tháng XNUMX Hoa Kỳ sẽ “phải giải quyết cụ thể những gì chúng tôi lo lắng nhất [từ] các hoạt động gây ảnh hưởng trên mạng của nước ngoài, các loại hoạt động đã và đang diễn ra của chính phủ Nga, Trung Quốc, Iran.”

tin tặc Nga nỗ lực deepfake thô sơ để mô tả Tổng thống Ukraine Volodymyr Zelenskyy kêu gọi người dân Ukraine hạ vũ khí là điều dễ nhận biết. Nhưng bây giờ rõ ràng là vấn đề không còn mang tính học thuật nữa. Thực tế cho thấy rằng các video ác ý, tài liệu giả mạo và tài khoản mạng xã hội giả mạo có thể chuyển từ bị coi là thô thiển sang truyền đạt vẻ ngoài chân thực lừa đảo.

Sự gia tăng các chiến dịch lật đổ phụ thuộc vào thông tin sai lệch và nỗ lực ngày càng cao của các tác nhân xấu cho thấy sự cần thiết phải có phản ứng chiến lược từ Hoa Kỳ và các đồng minh. Để chống lại những xu hướng này, các nhà hoạch định chính sách Hoa Kỳ cần có một chiến lược toàn diện, được xây dựng dựa trên sự giám sát thận trọng, cảnh báo chủ động và sự hợp tác quốc tế.

Nền tảng của chiến lược này phải là giám sát thận trọng môi trường thông tin. Được củng cố bởi những tiến bộ trong AI và máy học, việc giám sát liên tục là rất quan trọng để phát hiện sớm và vô hiệu hóa các chiến dịch đưa thông tin sai lệch.

Lập trường này lặp lại lời kêu gọi của Bộ Quốc phòng Hoa Kỳ về khả năng được cải thiện để “giám sát, phân tích, mô tả đặc điểm, đánh giá, dự báo và trực quan hóa” môi trường thông tin, như chi tiết trong “Chiến lược vận hành trong môi trường thông tin” năm 2016. Để thực hiện điều này, các cơ quan quân sự và tình báo sẽ cần các đơn vị chuyên biệt dành riêng cho chiến tranh thông tin, có thể cung cấp chuyên môn quan trọng cần thiết để giải thích và hành động trên dữ liệu được thu thập.

Chính phủ Hoa Kỳ cũng cần một hệ thống cảnh báo mạnh mẽ, đồng thời thúc đẩy sự thật và vạch trần thông tin sai lệch. Những cảnh báo kịp thời và hiệu quả có thể giúp bảo vệ công chúng khỏi những tin đồn thất thiệt, hạn chế đáng kể tác động của các chiến dịch đưa thông tin sai lệch. Sức mạnh của sự thật là một công cụ ghê gớm trong bối cảnh này; nó phục vụ như một biện pháp đối phó hiệu quả chống lại tác động ăn mòn của sự giả dối.

Cuối cùng, cần củng cố quan hệ đối tác chiến lược với các đồng minh quốc tế. Bản chất toàn cầu của các chiến dịch thông tin sai lệch ác ý đòi hỏi các nỗ lực phản công phải có tầm ảnh hưởng sâu rộng như nhau. Những quan hệ đối tác này cung cấp kiến ​​thức địa phương vô giá và nuôi dưỡng lòng tin, cả hai đều có thể nâng cao đáng kể độ tin cậy của các cảnh báo và củng cố khả năng phục hồi của xã hội trước thông tin sai lệch.

Christopher Mouton là kỹ sư cao cấp tại tổ chức tư vấn Rand và là giáo sư tại Trường Cao học Pardee RAND.

• Phân phối nội dung và PR được hỗ trợ bởi SEO. Được khuếch đại ngay hôm nay.
• PlatoData.Network Vertical Generative Ai. Trao quyền cho chính mình. Truy cập Tại đây.
• PlatoAiStream. Thông minh Web3. Kiến thức khuếch đại. Truy cập Tại đây.
• Trung tâmESG. Ô tô / Xe điện, Than đá, công nghệ sạch, Năng lượng, Môi trường Hệ mặt trời, Quản lý chất thải. Truy cập Tại đây.
• BlockOffsets. Hiện đại hóa quyền sở hữu bù đắp môi trường. Truy cập Tại đây.
• nguồn: https://www.defensenews.com/opinion/2023/07/20/chatgpt-is-creating-new-risks-for-national-security/