Οι επιχειρήσεις υιοθετούν ολοένα και περισσότερο τη γενετική τεχνητή νοημοσύνη για την αυτοματοποίηση των διαδικασιών πληροφορικής, τον εντοπισμό απειλών ασφαλείας και την ανάληψη λειτουργιών εξυπηρέτησης πελατών πρώτης γραμμής. Ενα Έρευνα της IBM το 2023 διαπίστωσε ότι το 42% των μεγάλων επιχειρήσεων χρησιμοποιούσαν ενεργά την τεχνητή νοημοσύνη και ένα άλλο 40% εξερευνούσε ή πειραματιζόταν με την τεχνητή νοημοσύνη.

Στην αναπόφευκτη διασταύρωση AI και cloud, οι επιχειρήσεις πρέπει να σκεφτούν πώς να ασφαλίσουν τα εργαλεία AI στο cloud. Ένα άτομο που το σκέφτηκε πολύ αυτό είναι ο Chris Betz, ο οποίος έγινε ο CISO στο Amazon Web Services τον περασμένο Αύγουστο.

Πριν από την AWS, η Betz ήταν εκτελεστικός αντιπρόεδρος και CISO της Capital One. Ο Betz εργάστηκε επίσης ως ανώτερος αντιπρόεδρος και επικεφαλής ασφαλείας στην Lumen Technologies και σε ρόλους ασφαλείας στην Apple, τη Microsoft και το CBS.

Η Dark Reading μίλησε πρόσφατα με την Betz για το ασφάλεια των φόρτων εργασίας AI στο cloud. Ακολουθεί μια επεξεργασμένη έκδοση αυτής της συνομιλίας.

Dark Reading: Ποιες είναι μερικές από τις μεγάλες προκλήσεις με την εξασφάλιση φόρτου εργασίας AI στο cloud;

Κρις Μπετς: Όταν μιλάω με πολλούς από τους πελάτες μας για τη γενετική τεχνητή νοημοσύνη, αυτές οι συζητήσεις συχνά ξεκινούν με το εξής: «Έχω αυτά τα πολύ ευαίσθητα δεδομένα και ψάχνω να προσφέρω μια ικανότητα στους πελάτες μου. Πώς μπορώ να το κάνω αυτό με ασφαλή τρόπο;» Εκτιμώ πραγματικά αυτή τη συζήτηση γιατί είναι τόσο σημαντικό οι πελάτες μας να εστιάζουν στο αποτέλεσμα που προσπαθούν να επιτύχουν.

Dark Reading: Τι ανησυχούν περισσότερο οι πελάτες;

Betz: Η συζήτηση πρέπει να ξεκινήσει με την έννοια ότι «τα δεδομένα σας είναι τα δεδομένα σας». Έχουμε ένα μεγάλο πλεονέκτημα στο ότι μπορώ να χτίσω πάνω από την υποδομή πληροφορικής που κάνει πολύ καλή δουλειά για να διατηρεί αυτά τα δεδομένα εκεί που είναι. Η πρώτη συμβουλή λοιπόν που δίνω είναι: Κατανοήστε πού βρίσκονται τα δεδομένα σας. Πώς προστατεύεται; Πώς χρησιμοποιείται στο μοντέλο παραγωγής τεχνητής νοημοσύνης;

Το δεύτερο πράγμα για το οποίο μιλάμε είναι ότι οι αλληλεπιδράσεις με ένα μοντέλο παραγωγής τεχνητής νοημοσύνης συχνά χρησιμοποιούν ορισμένα από τα πιο ευαίσθητα δεδομένα των πελατών τους. Όταν ρωτάτε ένα μοντέλο παραγωγής τεχνητής νοημοσύνης για μια συγκεκριμένη συναλλαγή, θα χρησιμοποιήσετε πληροφορίες σχετικά με τα άτομα που εμπλέκονται σε αυτήν τη συναλλαγή.

Dark Reading: Ανησυχούν οι επιχειρήσεις τόσο για το τι κάνει η τεχνητή νοημοσύνη με τα εσωτερικά δεδομένα της εταιρείας τους όσο και για τα δεδομένα πελατών;

Betz: Οι πελάτες θέλουν περισσότερο να χρησιμοποιούν γενετική τεχνητή νοημοσύνη στις αλληλεπιδράσεις τους με τους πελάτες τους και στην εξόρυξη και εκμεταλλευόμενοι τον τεράστιο όγκο δεδομένων που έχουν εσωτερικά και να τα κάνουν να λειτουργούν είτε για εσωτερικούς υπαλλήλους είτε για τους πελάτες τους. Είναι τόσο σημαντικό για τις εταιρείες να διαχειρίζονται αυτά τα απίστευτα ευαίσθητα δεδομένα με ασφαλή και ασφαλή τρόπο, επειδή είναι η ψυχή της επιχείρησής τους.

Οι εταιρείες πρέπει να σκεφτούν πού βρίσκονται τα δεδομένα τους και πώς προστατεύονται όταν δίνουν τα μηνύματα τεχνητής νοημοσύνης και πότε λαμβάνουν απαντήσεις πίσω.

Dark Reading: Σχετίζονται η ποιότητα των απαντήσεων και η ασφάλεια των δεδομένων;

Betz: Οι χρήστες τεχνητής νοημοσύνης πρέπει πάντα να σκέφτονται αν λαμβάνουν ποιοτικές απαντήσεις. Ο λόγος για την ασφάλεια είναι να εμπιστεύονται οι άνθρωποι τα συστήματα των υπολογιστών τους. Εάν συνδυάζετε αυτό το περίπλοκο σύστημα που χρησιμοποιεί ένα μοντέλο παραγωγής τεχνητής νοημοσύνης για να παραδώσει κάτι στον πελάτη, πρέπει ο πελάτης να εμπιστεύεται ότι η τεχνητή νοημοσύνη του δίνει τις σωστές πληροφορίες για να ενεργήσει και ότι προστατεύει τις πληροφορίες του.

Dark Reading: Υπάρχουν συγκεκριμένοι τρόποι με τους οποίους το AWS μπορεί να μοιραστεί σχετικά με το πώς προστατεύεται από επιθέσεις σε AI στο cloud; Σκέφτομαι την έγκαιρη ένεση, τις επιθέσεις δηλητηρίασης, τις αντίπαλες επιθέσεις, κάτι τέτοιο.

Betz: Με ισχυρά θεμέλια ήδη, η AWS ήταν καλά προετοιμασμένη να ανταποκριθεί στην πρόκληση καθώς εργαζόμαστε με την τεχνητή νοημοσύνη εδώ και χρόνια. Διαθέτουμε μεγάλο αριθμό εσωτερικών λύσεων τεχνητής νοημοσύνης και έναν αριθμό υπηρεσιών που προσφέρουμε απευθείας στους πελάτες μας, και η ασφάλεια αποτελεί σημαντικό παράγοντα στον τρόπο με τον οποίο αναπτύσσουμε αυτές τις λύσεις. Είναι αυτό που ρωτούν οι πελάτες μας και αυτό περιμένουν.

Ως ένας από τους μεγαλύτερης κλίμακας παρόχους cloud, έχουμε ευρεία προβολή στις εξελισσόμενες ανάγκες ασφάλειας σε ολόκληρο τον κόσμο. Η ευφυΐα απειλών που συλλαμβάνουμε συγκεντρώνεται και χρησιμοποιείται για την ανάπτυξη αξιόπιστων πληροφοριών που χρησιμοποιούνται σε εργαλεία και υπηρεσίες πελατών, όπως GuardDuty. Επιπλέον, η ευφυΐα απειλών μας χρησιμοποιείται για τη δημιουργία αυτοματοποιημένων ενεργειών ασφαλείας εκ μέρους των πελατών για να διατηρούνται ασφαλή τα δεδομένα τους.

Dark Reading: Έχουμε ακούσει πολλά για προμηθευτές κυβερνοασφάλειας που χρησιμοποιούν τεχνητή νοημοσύνη και μηχανική μάθηση για να ανιχνεύουν απειλές αναζητώντας ασυνήθιστη συμπεριφορά στα συστήματά τους. Ποιοι άλλοι τρόποι με τους οποίους οι εταιρείες χρησιμοποιούν την τεχνητή νοημοσύνη για να ασφαλίσουν τον εαυτό τους;

Betz: Έχω δει πελάτες να κάνουν μερικά καταπληκτικά πράγματα με τη γενετική τεχνητή νοημοσύνη. Τους είδαμε να εκμεταλλεύονται το CodeWhisperer [γεννήτρια κώδικα με τεχνητή νοημοσύνη AWS] για να δημιουργήσουν γρήγορα πρωτότυπα και να αναπτύξουν τεχνολογίες. Έχω δει ομάδες να χρησιμοποιούν το CodeWhisperer για να τις βοηθήσουν δημιουργία ασφαλούς κώδικα και να διασφαλίσουμε ότι αντιμετωπίζουμε κενά στον κώδικα.

Κατασκευάσαμε επίσης παραγωγικές λύσεις τεχνητής νοημοσύνης που βρίσκονται σε επαφή με ορισμένα από τα εσωτερικά μας συστήματα ασφαλείας. Όπως μπορείτε να φανταστείτε, πολλές ομάδες ασφαλείας ασχολούνται με τεράστιες ποσότητες πληροφοριών. Η γενετική τεχνητή νοημοσύνη επιτρέπει μια σύνθεση αυτών των δεδομένων για να τα κάνει πολύ χρησιμοποιήσιμα τόσο από τους κατασκευαστές όσο και από τις ομάδες ασφαλείας για να κατανοήσουν τι συμβαίνει στα συστήματα, να κάνουν καλύτερες ερωτήσεις και να συγκεντρώσουν αυτά τα δεδομένα.

Όταν άρχισα να σκέφτομαι το έλλειψη ταλέντων στον κυβερνοχώρο, η γενετική τεχνητή νοημοσύνη δεν συμβάλλει μόνο σήμερα στη βελτίωση της ταχύτητας ανάπτυξης λογισμικού και στη βελτίωση της ασφαλούς κωδικοποίησης, αλλά βοηθά επίσης στη συγκέντρωση δεδομένων. Θα συνεχίσει να μας βοηθά γιατί ενισχύει τις ανθρώπινες ικανότητές μας. Η τεχνητή νοημοσύνη μάς βοηθά να συγκεντρώσουμε πληροφορίες για την επίλυση περίπλοκων προβλημάτων και βοηθά να φέρουμε τα δεδομένα στους μηχανικούς ασφαλείας και τους αναλυτές, ώστε να μπορούν να αρχίσουν να κάνουν καλύτερες ερωτήσεις.

Dark Reading: Βλέπετε απειλές για την ασφάλεια που αφορούν ειδικά την τεχνητή νοημοσύνη και το cloud;

Betz: Έχω αφιερώσει πολύ χρόνο με ερευνητές ασφαλείας για να εξετάσω τις πρωτοποριακές επιθέσεις τεχνητής νοημοσύνης και πώς το βλέπουν οι εισβολείς. Υπάρχουν δύο κατηγορίες πραγμάτων που σκέφτομαι σε αυτόν τον χώρο. Η πρώτη κατηγορία είναι ότι βλέπουμε κακόβουλους ηθοποιούς να αρχίζουν να χρησιμοποιούν γενετική τεχνητή νοημοσύνη για να γίνουν πιο γρήγοροι και καλύτεροι σε αυτό που ήδη κάνουν. Το περιεχόμενο κοινωνικής μηχανικής είναι ένα παράδειγμα αυτού.

Οι επιτιθέμενοι χρησιμοποιούν επίσης τεχνολογία AI για να βοηθήσουν στην ταχύτερη σύνταξη κώδικα. Είναι πολύ παρόμοιο με το σημείο που βρίσκεται η άμυνα. Μέρος της δύναμης αυτής της τεχνολογίας είναι ότι διευκολύνει μια κατηγορία δραστηριοτήτων, και αυτό ισχύει για τους επιτιθέμενους, αλλά αυτό ισχύει και για τους αμυντικούς.

Ο άλλος τομέας που βλέπω ότι οι ερευνητές αρχίζουν να εξετάζουν περισσότερο είναι το γεγονός ότι αυτά τα μοντέλα παραγωγής τεχνητής νοημοσύνης είναι κώδικας. Όπως και άλλοι κώδικας, είναι επιρρεπείς στο να έχουν αδυναμίες. Είναι σημαντικό να κατανοήσουμε πώς να τα ασφαλίσουμε και να βεβαιωθούμε ότι υπάρχουν σε ένα περιβάλλον που έχει άμυνες.

• SEO Powered Content & PR Distribution. Ενισχύστε σήμερα.
• PlatoData.Network Vertical Generative Ai. Ενδυναμώστε τον εαυτό σας. Πρόσβαση εδώ.
• PlatoAiStream. Web3 Intelligence. Ενισχύθηκε η γνώση. Πρόσβαση εδώ.
• PlatoESG. Ανθρακας, Cleantech, Ενέργεια, Περιβάλλον, Ηλιακός, Διαχείριση των αποβλήτων. Πρόσβαση εδώ.
• PlatoHealth. Ευφυΐα βιοτεχνολογίας και κλινικών δοκιμών. Πρόσβαση εδώ.
• πηγή: https://www.darkreading.com/cloud-security/aws-ciso-cloud-customers-need-secure-ai-workloads