Microsoft ya gabatar da wani tsari na kayan aikin da ake zargi don taimakawa samar da samfuran AI mafi aminci don amfani da su a cikin Azure.

Tun lokacin da girgije-da-ladi biz ya fara ba da kuɗi zuwa cikin OpenAI tare da haɓaka daular software tare da damar chatbot - wasan kwaikwayo wanda abokan hamayya suka yi daidai da babban alkawuran game da haɓaka aiki - Microsoft dole ne ya yarda cewa haɓaka AI yana zuwa tare da haɗari.

The hatsarori an san su sosai kuma wasu lokuta ana goge su a gefe. Shekaru goma da suka gabata, Elon Musk yayi gargadin cewa AI na iya kawai halaka bil'adama. Duk da haka wannan damuwar bai hana shi samar da AI a ciki ba cars, nasa kafofin watsa labarun megaphone, kuma watakila nan ba da jimawa ba mutummutumi.

Fitowar manyan nau'ikan harshe waɗanda ke haskakawa da bayar da martani mara daidai ko cutarwa ya haifar da komawa kan allon zane, amma zuwa ɗakin allo don ƙarin kuɗi. Maimakon samar da ingantaccen, samfuri mai ɗa'a, masana'antar fasaha suna ƙoƙarin lalata ƙirar ƙira, ko aƙalla kiyaye su da nisa daga abokan cinikin da za su iya tserewa ba tare da cutar da kowa ba.

Kuma idan hakan bai yi aiki ba, akwai ko da yaushe biyan kuɗi daga da'awar doka, ƙarƙashin wasu sharuɗɗa, daga masu kaya.

Alƙawarin masana'antu na amincin AI sun yi daidai da daidaitattun buƙatun gwamnati. A Amurka ranar Alhamis, Ofishin Gudanarwa da Kasafin Kudi na Fadar White House (OMB) bayar manufofinta na farko na gwamnati don magance haɗarin AI.

Manufar tana buƙatar hukumomin tarayya "don aiwatar da ƙayyadaddun kariya yayin amfani da AI ta hanyar da za ta iya yin tasiri ga haƙƙin Amurkawa ko aminci," a ranar 1 ga Disamba. Wannan yana nufin ƙididdigar haɗari, gwaji, da saka idanu, ƙoƙarin iyakance wariya da nuna bambanci, da kuma ingantawa. nuna gaskiya ga aikace-aikacen AI da suka shafi kiwon lafiya, ilimi, gidaje, da aiki.

Don haka Microsoft ya kawo maganar sabbin matakan tsaro na AI ta hanyar Sarah Bird, babban jami'in samfuran da ke da alhakin AI, taken da ke nuna kasancewar AI mara nauyi - idan zaku iya tunanin hakan.

Bird ya ce shugabannin kasuwancin suna ƙoƙarin daidaita ƙididdigewa da sarrafa haɗari, don ba su damar yin amfani da AI mai haɓakawa ba tare da cizon su ba.

"Hare-haren alluran gaggawa sun bayyana a matsayin babban ƙalubale, inda ƴan wasan ƙeta suke ƙoƙarin sarrafa tsarin AI don yin wani abu a waje da manufar sa, kamar samar da abun ciki mai cutarwa ko fitar da bayanan sirri," Bird ya bayyana a cikin blog post.

“Bugu da ƙari ga rage waɗannan haɗarin tsaro, ƙungiyoyi kuma suna damuwa game da inganci da aminci. Suna son tabbatar da cewa tsarin su na AI ba sa haifar da kurakurai ko ƙara bayanan da ba a tabbatar da su ba a tushen bayanan aikace-aikacen, wanda zai iya lalata amincin mai amfani. "

Tunda ba a haɗa aminci da daidaito cikin kuɗin biyan kuɗin AI ba, Microsoft yana ganin dama don sayar da su a matsayin add-on.

Abokan ciniki masu amfani da Azure AI Studio don taimaka musu ƙirƙirar ƙa'idodin AI masu haɓakawa na iya sa ido ga sabbin kayan aiki huɗu.

Na farko, akwai Garkuwan gaggawa, wanda yayi alkawarin taimakawa wajen kare kai daga hare-haren allura da sauri. Wanda aka sani a baya da Gano Haɗarin Jailbreak kuma yanzu a cikin samfoti na jama'a, hanya ce don rage haɗarin shiga tsakani kai tsaye da kai tsaye a cikin ƙirar tushe.

Hare-haren kai tsaye sun haɗa da faɗakarwa (shigarwa) da aka ƙera don sa ƙirar ta yi watsi da horon aminci. Hare-hare kaikaice na nufin yunƙurin shigar da bayanai cikin samfuri. Hanya ɗaya don yin wannan na iya zama haɗawa da ɓoye rubutu a cikin imel tare da sanin cewa ƙirar AI da ke aiki a madadin mai karɓa ta hanyar, ce, Copilot a cikin Outlook, zai rarraba saƙon, fassara ɓoye ɓoye a matsayin umarni, kuma da fatan yi aiki da umarnin, yin wani abu kamar amsa shiru tare da mahimman bayanai.

Na biyu shine Ganewar ƙasa, tsarin kamawa lokacin da AI model ke hallucinate, ko yin abubuwa sama. Yana ba abokan ciniki zaɓuɓɓuka da yawa lokacin da aka gano da'awar ƙarya, gami da mayar da martani don sake dubawa kafin nunawa. Microsoft ya ce ya cim ma hakan ta hanyar gina tsarin yare na al'ada wanda ke kimanta da'awar da ba ta da tushe bisa takaddun tushe. Don haka amsar ga amincin samfurin AI shine, kun yi tsammani, wani samfurin.

Ko da yake wannan mataki ne mai ban mamaki ga amintaccen AI, har yanzu matsalar ba ta warware ba

Na uku, muna da Ƙimar aminci ta taimakon AI a cikin AI Studio, wanda ke ba da tsarin gwaji don gabatar da samfuran gaggawa da sigogi zuwa ƙirar da ke gwada hulɗar abokan gaba daban-daban tare da aikace-aikacen abokin ciniki. Hakanan, AI don gwada AI.

Kuma a ƙarshe, akwai "haɗari da saka idanu na aminci", fasali don Sabis na OpenAI na Azure wanda ke ba da ma'aunin abun ciki mai cutarwa.

Vinu Sankar Sadasivan, dalibin digiri na uku a Jami'ar Maryland wanda ya taimaka wajen bunkasa BEAST harin a LLMs, ya ce Rijista cewa yayin da yake da ban sha'awa don ganin kayan aikin gine-gine na Azure don tabbatar da AI mafi aminci, ƙara ƙarin samfura a cikin mahaɗin yana faɗaɗa yiwuwar kai hari.

"Kimanin aminci na Azure da haɗari da kayan aikin sa ido na aminci suna da mahimmanci don bincika amincin samfuran AI," in ji shi. "Ko da yake wannan mataki ne mai ban mamaki ga amintaccen AI, har yanzu ba a warware matsalar ba. Misali, Garkuwan Sauƙaƙan da suke gabatarwa mai yiwuwa suna amfani da wani samfurin AI don ganowa da toshe hare-haren kai tsaye. Wannan samfurin AI na iya zama mai rauni ga barazana kamar hare-haren abokan gaba.

“Maƙiya na iya yin amfani da waɗannan raunin don ƙetare Garkuwan gaggawa. Kodayake saƙonnin tsarin tsaro sun nuna suna da tasiri a wasu lokuta, hare-haren da ake ciki kamar BEAST na iya kai hari ga ƙirar AI don lalata su cikin lokaci kaɗan. Duk da yake yana da fa'ida don aiwatar da kariya ga tsarin AI, yana da mahimmanci a ci gaba da sanin illolinsu." ®

• Ƙunshin Ƙarfafa SEO & Rarraba PR. Samun Girma a Yau.
• PlatoData.Network Tsaye Generative Ai. Karfafa Kanka. Shiga Nan.
• PlatoAiStream. Web3 Mai hankali. Ilmi Ya Faru. Shiga Nan.
• PlatoESG. Carbon, CleanTech, Kuzari, Muhalli, Solar, Gudanar da Sharar gida. Shiga Nan.
• PlatoHealth. Biotech da Clinical Trials Intelligence. Shiga Nan.
• Source: https://go.theregister.com/feed/www.theregister.com/2024/03/29/microsoft_azure_safety_tools/