Được đăng trên: 15 Tháng hai, 2024

Gã khổng lồ công nghệ Microsoft và OpenAI, công ty đứng sau ChatGPT, tiết lộ rằng tin tặc đã sử dụng công nghệ AI để nhanh chóng phát triển các công cụ mới, cải thiện tập lệnh và tạo ra các kế hoạch kỹ thuật xã hội tốt hơn.

Microsoft cho biết: “Trong năm qua, tốc độ, quy mô và độ phức tạp của các cuộc tấn công đã tăng lên cùng với sự phát triển và áp dụng nhanh chóng của AI”. trong một bài đăng trên blog được phát hành vào thứ Tư. “Những người bảo vệ chỉ mới bắt đầu nhận ra và áp dụng sức mạnh của AI tổng hợp để thay đổi sự cân bằng an ninh mạng theo hướng có lợi cho họ.”

Các nhà nghiên cứu đã tìm thấy bằng chứng về việc nhiều nhóm được nhà nước bảo trợ có liên quan đến Triều Tiên, Nga, Trung Quốc và Iran đang cải tiến phần mềm của họ bằng AI. Các phương pháp bao gồm sử dụng phần mềm tương tự như ChatGPT để hỗ trợ thực hiện các tác vụ viết kịch bản tẻ nhạt, cho phép chúng đặt nền tảng cho phần mềm mạnh hơn. Một số hacker thậm chí còn sử dụng AI để tạo ra các hoạt động hoàn toàn tự động.

Các tác nhân đe dọa cũng đã phát hành nhiều mô hình ngôn ngữ học tập (LLM) khác nhau của riêng họ, chẳng hạn như WormGPT và FraudGPT, hỗ trợ việc tạo ra phần mềm độc hại.

Gần đây, OpenAI đã phải đối mặt với áp lực ngày càng tăng đối với công ty vì vi phạm luật bảo mật dữ liệu, đi ngược lại lời hứa ngăn quân đội sử dụng phần mềm của họ và phần mềm của họ bị nhiều nhóm hack khác nhau sử dụng.

Microsoft viết: “Mục tiêu hợp tác của Microsoft với OpenAI, bao gồm cả việc phát hành nghiên cứu này, là đảm bảo việc sử dụng an toàn và có trách nhiệm các công nghệ AI như ChatGPT”. “Là một phần của cam kết này, chúng tôi đã thực hiện các biện pháp nhằm ngăn chặn các tài sản và tài khoản liên quan đến các tác nhân đe dọa và cải thiện khả năng bảo vệ công nghệ OpenAI LLM và người dùng khỏi bị tấn công hoặc lạm dụng.”

Tại thời điểm này, cả Microsoft và OpenAI đều chưa phát hiện bất kỳ “cuộc tấn công đáng kể” nào sử dụng phần mềm AI, nhưng điều đó có thể sẽ thay đổi theo thời gian.

“Chúng tôi cảm thấy đây là nghiên cứu quan trọng cần được công bố để vạch trần các động thái gia tăng ở giai đoạn đầu mà chúng tôi quan sát thấy các tác nhân đe dọa nổi tiếng đang cố gắng thực hiện”.

• Phân phối nội dung và PR được hỗ trợ bởi SEO. Được khuếch đại ngay hôm nay.
• PlatoData.Network Vertical Generative Ai. Trao quyền cho chính mình. Truy cập Tại đây.
• PlatoAiStream. Thông minh Web3. Kiến thức khuếch đại. Truy cập Tại đây.
• Trung tâmESG. Than đá, công nghệ sạch, Năng lượng, Môi trường Hệ mặt trời, Quản lý chất thải. Truy cập Tại đây.
• PlatoSức khỏe. Tình báo thử nghiệm lâm sàng và công nghệ sinh học. Truy cập Tại đây.
• nguồn: https://www.safetydetectives.com/news/openai-confirms-ai-software-is-being-used-by-hackers/