Bộ Quốc phòng Hoa Kỳ được cho là đang hợp tác với công ty khởi nghiệp Scal AI để thử nghiệm các mô hình AI tổng quát cho mục đích quân sự.

AI quy mô sẽ xây dựng một khung công cụ và bộ dữ liệu mà Lầu Năm Góc có thể triển khai để đánh giá các mô hình ngôn ngữ lớn. Khuôn khổ này sẽ bao gồm “đo lường hiệu suất của mô hình, cung cấp phản hồi theo thời gian thực cho các chiến binh và tạo ra các bộ đánh giá khu vực công chuyên biệt để kiểm tra các mô hình AI cho các ứng dụng hỗ trợ quân sự, chẳng hạn như tổ chức các phát hiện từ các báo cáo sau hành động”, biz có trụ sở tại San Francisco. nói với Phòng thủScoop.

Khả năng phân tích và tạo văn bản của các mô hình ngôn ngữ lớn có thể tăng cường khả năng thu thập thông tin tình báo, lập kế hoạch hoạt động và từ đó hướng dẫn việc ra quyết định trong lĩnh vực chiến đấu của Lầu Năm Góc.

Craig Martell, giám đốc trí tuệ nhân tạo và kỹ thuật số của DoD cho biết: “Hãy tưởng tượng một thế giới nơi các chỉ huy chiến đấu có thể nhìn thấy mọi thứ họ cần thấy để đưa ra các quyết định chiến lược”.

“Hãy tưởng tượng một thế giới nơi những người chỉ huy chiến đấu không nhận được thông tin đó qua PowerPoint hoặc qua email từ [tổ chức] – thời gian xử lý để nhận thức tình huống giảm từ một hoặc hai ngày xuống còn mười phút,” ông tuyên bố trong Advantage DoD 2024: Hội nghị chuyên đề về Dữ liệu Quốc phòng và AI.

AI có thể xử lý nhanh chóng lượng lớn thông tin. Tuy nhiên, dữ liệu quân sự thường rất nhạy cảm – và các quan chức lo ngại rằng nếu nó tiếp cận các mô hình ngôn ngữ lớn, các cuộc tấn công tiêm nhiễm nhanh chóng hoặc lạm dụng API có thể khiến dữ liệu đó bị rò rỉ.

Rào cản lớn nhất đối với việc triển khai LLM trong quân sự là xu hướng tạo ra thông tin không chính xác hoặc sai lệch – được gọi là ảo giác. Bằng cách đưa vào AI quy mô, Lầu Năm Góc tin rằng họ có thể kiểm tra hiệu suất của các mô hình khác nhau để xác định các rủi ro tiềm ẩn trước khi xem xét sử dụng chúng để hỗ trợ chiến đấu hoặc tình báo.

Theo báo cáo, công ty khởi nghiệp sẽ biên soạn “bộ dữ liệu nắm giữ” chứa các ví dụ về phản hồi hiệu quả đối với các lời nhắc đầu vào sẽ hữu ích cho quân đội. Sau đó, các quan chức tại DoD có thể so sánh phản hồi của các mô hình khác nhau với cùng một lời nhắc và đánh giá tiện ích của chúng.

Năm ngoái, Bộ Quốc phòng đã đưa ra Lực lượng đặc nhiệm Lima – một đơn vị do Martell, trước đây là người đứng đầu bộ phận học máy tại công ty chia sẻ chuyến đi Lyft, lãnh đạo, để điều tra các ứng dụng quân sự cho AI tổng hợp.

Martell giải thích vào thời điểm đó: “DoD có trách nhiệm phải theo đuổi việc áp dụng các mô hình AI tổng hợp một cách có trách nhiệm đồng thời xác định các biện pháp bảo vệ thích hợp và giảm thiểu rủi ro an ninh quốc gia có thể phát sinh từ các vấn đề như dữ liệu đào tạo được quản lý kém”. “Chúng ta cũng phải xem xét mức độ mà đối thủ của chúng ta sẽ sử dụng công nghệ này và tìm cách phá vỡ việc sử dụng các giải pháp dựa trên AI của chính chúng ta.”

Các công cụ như ChatGPT đã được tạm thời bị cấm Tuy nhiên, trong nội bộ. Lực lượng Không gian Hoa Kỳ yêu cầu nhân viên không sử dụng phần mềm này vì lo ngại rằng bí mật quân sự có thể bị tiết lộ hoặc trích xuất.

AI quy mô từ chối bình luận về vấn đề này. ®

• Phân phối nội dung và PR được hỗ trợ bởi SEO. Được khuếch đại ngay hôm nay.
• PlatoData.Network Vertical Generative Ai. Trao quyền cho chính mình. Truy cập Tại đây.
• PlatoAiStream. Thông minh Web3. Kiến thức khuếch đại. Truy cập Tại đây.
• Trung tâmESG. Than đá, công nghệ sạch, Năng lượng, Môi trường Hệ mặt trời, Quản lý chất thải. Truy cập Tại đây.
• PlatoSức khỏe. Tình báo thử nghiệm lâm sàng và công nghệ sinh học. Truy cập Tại đây.
• nguồn: https://go.theregister.com/feed/www.theregister.com/2024/02/21/dod_scaleai_contract/