Yritykset ottavat yhä enemmän käyttöön luovaa tekoälyä IT-prosessien automatisoimiseksi, tietoturvauhkien havaitsemiseksi ja etulinjan asiakaspalvelutoimintojen ottamiseksi haltuunsa. An IBM:n tutkimus vuonna 2023 havaitsi, että 42 prosenttia suurista yrityksistä käytti aktiivisesti tekoälyä ja 40 prosenttia tutki tai kokeili tekoälyä.

Tekoälyn ja pilven väistämättömässä risteyksessä yritysten on pohdittava, kuinka tekoälytyökalut voidaan suojata pilvessä. Yksi henkilö, joka on miettinyt tätä paljon, on Chris Betz, josta tuli Amazon Web Services CISO viime elokuussa.

Ennen AWS:ää Betz oli Capital Onen varatoimitusjohtaja ja CISO. Betz työskenteli myös Lumen Technologiesin johtajana ja turvallisuusjohtajana sekä Applen, Microsoftin ja CBS:n turvallisuustehtävissä.

Dark Reading puhui äskettäin Betzin kanssa aiheesta AI-työkuormien suojaus pilvessä. Tästä keskustelusta seuraa muokattu versio.

Dark Reading: Mitkä ovat suuria haasteita tekoälyn työkuormien turvaamisessa pilvessä?

Chris Betz: Kun puhun monien asiakkaidemme kanssa generatiivisesta tekoälystä, keskustelut alkavat usein sanoilla: "Minulla on todella arkaluontoista dataa, ja pyrin tarjoamaan asiakkailleni kyvyn. Kuinka voin tehdä sen turvallisesti?" Arvostan todella tätä keskustelua, koska on niin tärkeää, että asiakkaamme keskittyvät saavuttamaansa tulokseen.

Dark Reading: Mistä asiakkaat ovat eniten huolissaan?

Betz: Keskustelu on aloitettava käsitteestä, jonka mukaan "tietosi ovat tietojasi". Meillä on suuri etu, että saan rakentaa IT-infrastruktuurin päälle, joka tekee todella hyvää työtä pitääkseen tiedot siellä missä ne ovat. Joten ensimmäinen neuvo, jonka annan, on: Ymmärrä, missä tietosi ovat. Miten sitä suojataan? Miten sitä käytetään generatiivisessa tekoälymallissa?

Toinen asia, josta puhumme, on se, että vuorovaikutuksessa generatiivisen AI-mallin kanssa käytetään usein asiakkaidensa arkaluonteisimpia tietoja. Kun kysyt generatiiviselta tekoälymallilta tietystä tapahtumasta, käytät tietoja kyseiseen tapahtumaan osallistuvista ihmisistä.

Dark Reading: Ovatko yritykset huolissaan sekä siitä, mitä tekoäly tekee niiden sisäisten yritystietojen ja asiakastietojen kanssa?

Betz: Asiakkaat haluavat eniten käyttää generatiivista tekoälyä vuorovaikutuksessaan asiakkaidensa kanssa ja louhinnassa sekä hyödyntämään sisäisesti hallussaan olevaa valtavaa datamäärää ja saamaan sen toimimaan joko sisäisille työntekijöille tai asiakkaille. Yrityksille on erittäin tärkeää, että he hallitsevat uskomattoman arkaluontoisia tietoja turvallisesti, koska se on heidän liiketoimintansa elinehto.

Yritysten on pohdittava, missä heidän tietonsa ovat ja kuinka ne on suojattu, kun ne antavat tekoälykehotteita ja milloin ne saavat vastauksia.

Dark Reading: Onko vastausten laatu ja tietojen turvallisuus liittyvät toisiinsa?

Betz: Tekoälykäyttäjien on aina pohdittava, saavatko he laadukkaita vastauksia. Syy turvallisuuteen on ihmisten luottaminen tietokonejärjestelmiinsä. Jos kokoat tätä monimutkaista järjestelmää, joka käyttää generatiivista tekoälymallia toimittamaan jotain asiakkaalle, sinun on asiakkaan luotettava siihen, että tekoäly antaa heille oikeat tiedot toimiakseen ja että se suojaa hänen tietojaan.

Dark Reading: Onko olemassa tiettyjä tapoja, joilla AWS voi kertoa, kuinka se suojaa pilven tekoälyhyökkäyksiä vastaan? Ajattelen nopeita injektioita, myrkytyshyökkäyksiä, vastakkaisia ​​hyökkäyksiä, sellaisia ​​​​asioita.

Betz: Vahvan perustan ansiosta AWS oli hyvin valmistautunut vastaamaan haasteeseen, koska olemme työskennelleet tekoälyn kanssa vuosia. Meillä on suuri määrä sisäisiä tekoälyratkaisuja ja useita palveluita, joita tarjoamme suoraan asiakkaillemme, ja turvallisuus on ollut tärkeä näkökohta näiden ratkaisujen kehittämisessä. Sitä asiakkaamme kysyvät ja sitä he odottavat.

Yhtenä suurimmista pilvipalveluntarjoajista meillä on laaja näkyvyys muuttuviin tietoturvatarpeisiin ympäri maailmaa. Keräämämme uhkatiedustelutiedot kootaan yhteen ja niitä käytetään toiminnallisten oivallusten kehittämiseen, joita käytetään asiakkaiden työkaluissa ja palveluissa, kuten esim. Vartijavelvollisuus. Lisäksi uhkatietojemme avulla luodaan automaattisia tietoturvatoimia asiakkaiden puolesta heidän tietojensa turvaamiseksi.

Dark Reading: Olemme kuulleet paljon kyberturvallisuustoimittajista, jotka käyttävät tekoälyä ja koneoppimista havaitakseen uhkia etsimällä epätavallista toimintaa järjestelmistään. Millä muilla tavoilla yritykset käyttävät tekoälyä turvatakseen itsensä?

Betz: Olen nähnyt asiakkaiden tekevän hämmästyttäviä asioita generatiivisella tekoälyllä. Olemme nähneet heidän hyödyntävän CodeWhispereria [AWS:n tekoälyllä toimiva koodigeneraattori] prototyyppien ja teknologioiden nopeaan kehittämiseen. Olen nähnyt tiimien käyttävän CodeWhispereria auttaakseen heitä rakentaa suojattua koodia ja varmistamme, että käsittelemme koodin puutteita.

Rakensimme myös generatiivisia tekoälyratkaisuja, jotka ovat yhteydessä joihinkin sisäisiin turvajärjestelmiimme. Kuten voit kuvitella, monet turvallisuustiimit käsittelevät valtavia määriä tietoa. Generatiivinen tekoäly mahdollistaa näiden tietojen synteesin, jotta sekä rakentajat että tietoturvatiimit voivat käyttää niitä hyvin ymmärtäessään, mitä järjestelmissä tapahtuu, kysyäkseen parempia kysymyksiä ja kootakseen tiedot yhteen.

Kun aloin miettimään kyberturvallisuuden osaajista on pulaa, generatiivinen tekoäly ei ainoastaan ​​auta nykyään nopeuttamaan ohjelmistokehitystä ja parantamaan turvallista koodausta, vaan se auttaa myös keräämään tietoja. Se auttaa meitä jatkossakin, koska se vahvistaa inhimillisiä kykyjämme. Tekoäly auttaa meitä yhdistämään tietoja monimutkaisten ongelmien ratkaisemiseksi ja tuoda tiedot tietoturvainsinööreille ja analyytikoille, jotta he voivat alkaa kysyä parempia kysymyksiä.

Dark Reading: Näetkö mitään tekoälylle ja pilvelle ominaisia ​​tietoturvauhkia?

Betz: Olen viettänyt paljon aikaa tietoturvatutkijoiden kanssa tutkiessani huippuluokan generatiivisia tekoälyhyökkäyksiä ja sitä, miten hyökkääjät suhtautuvat niihin. Tässä tilassa ajattelen kahta luokkaa asioita. Ensimmäinen luokka on se, että näemme pahantahtoisten toimijoiden alkavan käyttää generatiivista tekoälyä saadakseen nopeampia ja parempia tekemisissään. Social engineering -sisältö on esimerkki tästä.

Hyökkääjät käyttävät myös tekoälytekniikkaa nopeuttaakseen koodin kirjoittamista. Se on hyvin samanlainen kuin missä puolustus on. Osa tämän tekniikan tehosta on se, että se helpottaa tiettyjä toimintoja, ja se pätee hyökkääjiin, mutta se pätee hyvin myös puolustajiin.

Toinen alue, jota näen tutkijoiden alkavan tarkastella enemmän, on se, että nämä generatiiviset tekoälymallit ovat koodia. Kuten muutkin koodit, ne ovat herkkiä heikkouksille. On tärkeää, että ymmärrämme, kuinka ne turvataan ja että ne ovat olemassa ympäristössä, jossa on puolustus.

• SEO-pohjainen sisällön ja PR-jakelu. Vahvista jo tänään.
• PlatoData.Network Vertical Generatiivinen Ai. Vahvista itseäsi. Pääsy tästä.
• PlatoAiStream. Web3 Intelligence. Tietoa laajennettu. Pääsy tästä.
• PlatoESG. hiili, CleanTech, energia, ympäristö, Aurinko, Jätehuolto. Pääsy tästä.
• PlatonHealth. Biotekniikan ja kliinisten kokeiden älykkyys. Pääsy tästä.
• Lähde: https://www.darkreading.com/cloud-security/aws-ciso-cloud-customers-need-secure-ai-workloads