Oleh John P. Desmond, Tren AI editor  

Sekitar 500 pakar bisnis dan keamanan tingkat C dari perusahaan dengan pendapatan lebih dari $ 5 miliar di berbagai industri menyatakan keprihatinannya dalam survei terbaru dari Accenture tentang potensi kerentanan keamanan yang ditimbulkan oleh pengejaran teknologi AI, 5G, dan augmented reality pada saat yang bersamaan. .  

Untuk melatih model AI dengan benar, misalnya, perusahaan perlu melindungi data yang diperlukan untuk melatih AI dan lingkungan tempat pembuatannya. Saat model digunakan, data yang sedang bergerak perlu dilindungi. Data tidak dapat dikumpulkan di satu tempat, baik karena alasan teknis atau keamanan, atau untuk perlindungan kekayaan intelektual. “Oleh karena itu, memaksa perusahaan untuk memasukkan pembelajaran yang aman sehingga berbagai pihak dapat berkolaborasi, ”ujar Claudio Ordoñez, Cybersecurity Leader for Accenture di Chili, dalam akun baru-baru ini di Riset Pasar Biz.  

Perusahaan perlu memperluas praktik pengembangan perangkat lunak yang aman, yang dikenal sebagai DevSecOps, untuk melindungi AI melalui siklus hidup. “Sayangnya, tidak ada solusi yang tepat untuk bertahan dari manipulasi AI, sehingga perlu menggunakan kemampuan berlapis untuk mengurangi risiko dalam proses bisnis yang didukung oleh kecerdasan buatan,” ujarnya. Tindakan tersebut mencakup fungsi dan kontrol keamanan umum seperti sanitasi data masukan, pengerasan aplikasi, dan penyiapan analisis keamanan. Selain itu, langkah-langkah harus diambil untuk integritas data snake, kontrol akurasi, deteksi gangguan, dan kemampuan respons awal.    

Risiko Ekstraksi Model dan Serangan terhadap Privasi  

Model pembelajaran mesin telah menunjukkan beberapa masalah keamanan dan privasi yang unik. "Jika model diekspos ke penyedia data eksternal, Anda mungkin berisiko mengekstraksi model," Ordoez diperingatkan. Dalam hal ini, peretas mungkin bisa merekayasa balik model tersebut dan menghasilkan model pengganti yang mereproduksi fungsi model asli, tetapi dengan hasil yang diubah. “Ini memiliki implikasi yang jelas bagi kerahasiaan kekayaan intelektual,” katanya.  

Untuk melindungi dari ekstraksi model dan serangan terhadap privasi, diperlukan kontrol. Beberapa mudah diterapkan, seperti batasan tarif, tetapi beberapa model mungkin memerlukan keamanan yang lebih canggih, seperti analisis penggunaan abnormal. Jika model AI dikirimkan sebagai layanan, perusahaan perlu mempertimbangkan kontrol keamanan yang diterapkan di lingkungan layanan cloud. “Data dan model open source atau yang dihasilkan secara eksternal menyediakan vektor serangan untuk organisasi, ”Ordóñez menyatakan, karena penyerang mungkin dapat memasukkan data yang dimanipulasi dan melewati keamanan internal.   

Ditanya bagaimana organisasi mereka berencana menciptakan pengetahuan teknis yang diperlukan untuk mendukung teknologi yang sedang berkembang, sebagian besar responden survei Accenture mengatakan mereka akan melatih karyawan yang sudah ada (77%), akan berkolaborasi atau bermitra dengan organisasi yang memiliki pengalaman (73%), merekrut bakat baru (73%), dan memperoleh bisnis atau startup baru (49%).  

Waktu yang diperlukan untuk melatih para profesional dalam keterampilan ini diremehkan, dalam pandangan Ordóñez. Selain itu, “Responden berasumsi bahwa akan ada banyak talenta yang tersedia untuk dipekerjakan dari AI, 5G, komputasi kuantum, dan realitas yang diperluas, tetapi kenyataannya ada dan akan ada kekurangan keterampilan ini di pasar,” katanya. “Memperparah masalah, menemukan bakat keamanan dengan keterampilan teknologi yang muncul ini akan menjadi lebih sulit,” katanya.  

Fitur teknologi 5G meningkatkan masalah keamanan baru, termasuk virtualisasi yang memperluas permukaan serangan dan pelacakan lokasi serangan yang "sangat akurat", meningkatkan masalah privasi bagi pengguna. “Seperti pertumbuhan layanan cloud, 5G berpotensi menciptakan jaringan bayangan yang beroperasi di luar pengetahuan dan manajemen perusahaan,” kata Ordóñez.  

"Pendaftaran perangkat harus menyertakan otentikasi untuk menangani permukaan serangan perusahaan. Tanpa itu, integritas pesan dan identitas pengguna tidak bisa terjamin, ”tandasnya. Perusahaan akan membutuhkan komitmen dari chief information security officer (CISO) agar efektif. "Sukses membutuhkan komitmen dan keahlian CISO yang signifikan dalam manajemen risiko dunia maya sejak awal dan sepanjang hari-hari inovasi, termasuk memiliki pola pikir, perilaku, dan budaya yang benar untuk mewujudkannya."  

Augmented reality juga memperkenalkan berbagai risiko keamanan baru, dengan masalah keamanan di sekitar lokasi, pengenalan kepercayaan, konten gambar dan suara di sekitarnya, serta "penyembunyian konten". Sehubungan dengan hal ini, "Perintah" buka katup ini "dapat diarahkan ke objek yang salah dan menghasilkan aktivasi bencana," saran Ordóñez.  

Teknik Menjaga Privasi Data di Era 5G 

Privasi data adalah salah satu masalah terpenting dalam dekade ini, seiring berkembangnya AI dan lebih banyak kerangka kerja regulasi yang diterapkan pada saat yang bersamaan. Beberapa teknik manajemen data dapat membantu organisasi tetap patuh dan aman, saran Jiani Zhang, Presiden Aliansi dan Unit Solusi Industri di Persistent Systems, di mana dia bekerja sama dengan IBM dan Red Hat untuk mengembangkan solusi bagi klien, seperti yang dilaporkan baru-baru ini di Proyek Pengusaha. 

Pembelajaran Federasi. Dalam bidang dengan data pengguna sensitif seperti perawatan kesehatan, kearifan tradisional dekade terakhir ini adalah data 'unsilo' bila memungkinkan. Namun, agregasi data yang diperlukan untuk melatih dan menerapkan algoritme pembelajaran mesin telah menciptakan "masalah privasi dan keamanan yang serius", terutama saat data dibagikan dalam organisasi. 

Dalam model pembelajaran federasi, data tetap aman di lingkungannya. Model ML lokal dilatih pada kumpulan data pribadi, dan pembaruan model mengalir di antara kumpulan data untuk digabungkan secara terpusat. “Data tidak pernah meninggalkan lingkungan lokalnya,” kata Zhang.   

“Dengan cara ini, data tetap aman sambil tetap memberikan 'kebijaksanaan kerumunan' kepada organisasi," katanya. “Pembelajaran gabungan mengurangi risiko satu serangan atau kebocoran yang membahayakan privasi semua data karena alih-alih berada dalam satu repositori, datanya tersebar di antara banyak.”  

AI yang Dapat Dijelaskan (XAI). Banyak model AI / ML, khususnya jaringan neural, adalah kotak hitam yang input dan operasinya tidak terlihat oleh pihak yang berkepentingan. Area penelitian baru adalah penjelasan, yang menggunakan teknik untuk membantu menghadirkan transparansi, seperti pohon keputusan yang mewakili sistem yang kompleks, agar lebih dapat dipertanggungjawabkan.   

"Dalam bidang sensitif seperti perawatan kesehatan, perbankan, layanan keuangan, dan asuransi, kami tidak bisa begitu saja mempercayai pengambilan keputusan AI, ”kata Zhang. Seorang konsumen yang ditolak untuk mendapatkan pinjaman bank, misalnya, memiliki hak untuk mengetahui alasannya. “XAI harus menjadi area fokus utama bagi organisasi yang mengembangkan sistem AI di masa depan,” dia menyarankan. 

Operasi AI / ML Ops. Idenya adalah untuk mempercepat seluruh siklus hidup model ML dengan menstandarkan operasi, mengukur kinerja, dan memulihkan masalah secara otomatis. AIOps dapat diterapkan ke tiga lapisan berikut: 

• Infrastruktur: Alat otomatis memungkinkan organisasi untuk mengukur infrastruktur mereka dan memenuhi tuntutan kapasitas. Zhang menyebutkan subset DevOps yang muncul yang disebut GitOps, yang menerapkan prinsip DevOps ke layanan mikro berbasis cloud yang berjalan dalam container.  
• Manajemen Kinerja Aplikasi (APM): Organisasi menerapkan APM untuk mengelola waktu henti dan memaksimalkan kinerja. Solusi APM menggabungkan pendekatan AIOps, menggunakan AI dan ML untuk mengidentifikasi masalah secara proaktif daripada mengambil pendekatan reaktif.  
• Manajemen layanan TI (ITSM): Layanan TI menjangkau perangkat keras, perangkat lunak, dan sumber daya komputasi dalam sistem yang sangat besar. ITSM menerapkan AIOps untuk mengotomatiskan alur kerja tiket, mengelola dan menganalisis insiden, serta mengotorisasi dan memantau dokumentasi di antara tanggung jawabnya. 

Baca artikel sumber di  Riset Pasar Biz, dalam laporan terkait dari Accenture dan in Proyek Pengusaha. 

Lihat PrimeXBT
Berdaganglah dengan Mitra CFD Resmi AC Milan
Cara termudah untuk berdagang Crypto.
Sumber: https://www.aitrends.com/ai-and-5g/convergence-of-ai-5g-and-augmented-reality-poses-new-security-risks/