CCC tuki kolmea tieteellistä istuntoa tämän vuoden AAAS-vuosikonferenssissa, ja jos et päässyt osallistumaan henkilökohtaisesti, teemme yhteenvedon jokaisesta istunnosta. Tänään teemme yhteenvedon istunnon Q&A-osan kohokohdista, "Suuret kielimallit: avuliaita avustajia, romanttisia kumppaneita vai huijareita?Tämä paneeli, moderaattori Tohtori Maria Gini, CCC:n neuvoston jäsen ja Minnesotan yliopiston tietojenkäsittelytieteen ja tekniikan professori, esillä Tohtori Ece Kamar, AI Frontiersin toimitusjohtaja Microsoft Researchissa, Tohtori Hal Daumé III, tietojenkäsittelytieteen professori Marylandin yliopistossa ja Tohtori Jonathan May, tietojenkäsittelytieteen professori Etelä-Kalifornian yliopiston tietotieteiden instituutissa.

Alla on kiehtova yhteenveto Q&A-osiosta "Suuret kielimallit: avuliaita avustajia, romanttisia kumppaneita vai huijareita?"paneeli. Pystyykö tekoäly rakastamaan? Millaisia ​​vaikutuksia näillä malleilla voi olla lapsiin? Miten Yhdysvaltojen tekoälyn ominaisuudet kasvavat? Ota selvää alta:

K: Mitä käytäntöjä meidän tulisi tehdä, kun käytämme tekoälyn kielimalleja monikielisissä ja monikulttuurisissa yhteyksissä?

Dr. May: Teknologiaa kehitettäessä ja seinien alentamisessa pitäisi helpottaa ihmisten tekemistä, mitä he haluavat tehdä. Mitä kaikki haluavat tehdä, ei vain minä. Kiitos AI, hienoa keskittyä minuun, mutta meidän pitäisi kiinnittää huomiota muuhun maailmaan yleensä.

K: Jotkut näistä yleisistä ongelmista – tämä ei ole ensimmäinen kerta, kun ne otetaan esille. Näyttää siltä, ​​​​että yhteisö ei tule näihin itsestään. Mietin, onko teillä kaikilla ideoita siitä, kuinka nämä keskustelut saadaan toteutettua?

Dr. Kamar: Rooleja on monille eri osapuolille näytettävänä. Arvioinnilla on paljon merkitystä eri kulttuureja ja väestöjä edustaessa. Kun tietojoukoilla ei ole monimuotoisuutta maailman edustamisessa, tuloksena olevat järjestelmät eivät ole edustavia. Paljon työtä on tehtävä arvioinnin parhaiden käytäntöjen, säädösten ja vaatimustenmukaisuustoimenpiteiden muodostamisessa. Valkoinen talo on tehnyt sitoumuksia, ja AI Bill of Rights -suunnitelma on alkamassa. Alalla on toteutettu prosesseja, joissa monet suuret mielet ovat työskennelleet yhdessä (ei täydellistä, mutta yleistäen koko toimialalla on potentiaalia). Tapahtuu kokouksia, joilla päästään lähentymään nykyisten standardien kanssa; mahdollisesti tulevassa asetuksessa. Miten teemme arvioinnit, turvallisuusanalyysit jne.? Yhdessäkään näistä keskusteluista ei ole sitä monimuotoisuutta, jonka huoneessa on oltava. Ajattele, kenen pitää olla huoneessa, kun päätöksiä tehdään.

Tohtori Daumé: Luulen, että kun ihmiset puhuvat sääntelystä, erityisesti tekoälyssä, kaikki ajattelevat rankaisevia määräyksiä. Mutta tämä voi myös kannustaa sääntelyä. Rahoituksella päättäjät ja NSF voisivat edistää sellaisten työkalujen kehittämistä, jotka auttavat meitä kansakuntana ja koko maailmaa.

K: Tekoälyn rahoitus on huomattavasti jäljessä Yhdysvalloissa verrattuna muihin paikkoihin maailmassa. NSF:n uusi investointi on 20 miljoonaa, mikä on pähkinää verrattuna teollisuuden investointeihin. Liittovaltion hallitus on julkaissut raportteja tutkimuksista vuosien ajan, ja johtopäätös on, että Yhdysvaltojen on lähdettävä liikkeelle. Rakastan Ecen vaiheenmuutosanalogiaa. Termodynaaminen raja numeroiden kanssa kasvaa. Haluamme avoimen tekoälyn, kuka sen maksaa? Rahat eivät riitä. Mitkä ovat ehdotuksesi? Avaa AI? Mutta meillä ei ole edes avointa julkaisua. Suositteletko presidentille, ettei lakia olisi?

Tohtori May: Luulen, että rahaa on; joku huomasi minulle, että olet onnistunut vakuuttamaan hallituksen pyörittämään hiukkasia, mutta et ole pystynyt ohjaamaan sitä meille.

Dr. Kamar: Syy, miksi näitä malleja rakentavat yritykset saavat näitä tuloksia, on resurssien keskittäminen. Mittakaavasta saa paljon. Pitäisi miettiä, miten keskitämme investoinnit yliopistomaailmaan, jotta saamme yhteisen resurssin sen sijaan, että meillä olisi paljon erilaisia ​​malleja. Näemme, että kyse ei ole vain mittakaavasta. Meidän ei tarvitse tehdä juuri nyt, mutta nykyinen arkkitehtuuri ei ole hienoa. Hyvien tekoälyominaisuuksien ei pitäisi olla pelkästään rahan ja vallan lisäämistä.

K: Yliedustus vastauksissa. Tiedämmekö, mistä se tulee? Olen matemaattinen kaveri, ja ajatukseni menevät siihen, onko pyöristysvirheiden yhdistäminen, joka lisää harhaa? Jos yhtäläinen edustus, kuvittelisin, että se antaisi samanlaisen edustuksen, vai olisiko se silti olemassa?

Tohtori May: Paljon riippuu piikkitoiminnoista. Pehmeä maksimi on tärkeä osa harjoittelua. Korkein haluaa olla #1. Ei ole kuin täydellistä kielitulostusta, mutta haluamme olla jonkin verran harhaa. Haluamme vain minimoida ihmisille aiheutuvat haitat, emmekä usein tunnista niitä. Käyttöönotto ilman ymmärrystä on ongelma. 

Tohtori Daumé: Yksi näiden mallien haasteista on, että kapeita tekoälymalleja ei ole enää olemassa. He sanovat pystyvänsä mihin tahansa, joten kaikkea on vaikea testata.

K: Mainitsit tekoälyn olevan työkalu tai korvike, mihin suuntaan näet sen menevän?

Tohtori Daumé: Korvaamiseen menee enemmän rahaa.

K: Otsikossa mainittiin romanttinen tekoäly. Haluan tietää siitä lisää.

Tohtori May: Malleissa ei ole tarpeeksi tarkoitusta ollakseen elinkelpoisia romanttisia korvaajia, mutta ne ovat yhtä hyviä kuin ihmiset tunnistamaan kuvioita, vaikka niitä ei ole olemassa.

Tohtori Kamar: Suosittelen, ettet ajattele tekoälyä sellaisena kuin se nyt on. Yritä heijastaa tulevaisuuteen – kuvittele, että muutaman vuoden kuluttua nämä järjestelmät räätälöidään sinulle. Millainen suhde sinulla on tähän järjestelmään?

Tohtori May: Mutta rakastaako se sinua?

Dr. Kamar: Se kertoo sinulle, että se rakastaa sinua.

Tohtori May: Mutta riittääkö se?

K: Haluan kuulla neuvoja ihmisille, jotka eivät ole tekoälyn alalla. Kuinka voimme käyttää näitä työkaluja? Mitä meidän pitäisi tietää?

Tri Daumé: Marylandin yliopistossa käymme näitä keskusteluja paljon. Minun on helppo sanoa, että journalismi on erilaista 5 vuoden kuluttua, ja myös muut alat. On epämiellyttävää sanoa, että professorin rooli on erilainen 5 vuoden kuluttua, mutta se on. Minulla on kollegoita, jotka käyttävät erilaisia ​​LLM-laajennuksia ehdotuksiin ja papereihin; se on jo tapahtumassa. Minulla on säännöllisesti koekysymyksiä työkaluilla, mutta minun on tarkistettava tarkkuus. Koe kysymysten kirjoittaminen ei tuo minulle iloa, joten tekoäly voi ottaa sen pois lautaseltani. Korkea-asteen koulutuksessa meidän on mietittävä sitä enemmän. Miten se muuttaa työpaikkojamme? Yliopistoissa käydään paljon keskustelua, mutta ei paljon resurssien yhdistämistä.

K: Kuinka tervetullutta tekoälyä arvioidaan tulevaisuudessa, kun harkitaan sotilassovelluksia? Tässä istunnossa ei ole puhuttu sotilaallisista sovelluksista – tiedän, että jos luen ihmiset puoliväliin oikein, mielipiteet eroavat tästä aiheesta.

Dr. May: Armeija on laaja, paljon työtäni sponsoroi puolustusosasto. Vaikea vastata tarkasti, yleensä puolustusministeriö (ei puhu heidän puolestaan) näyttää asettavan etusijalle Yhdysvaltojen turvallisuuden ja jatkaa sen tekemistä ja hyödyntää LLM:itä ja tekoälyä auttaakseen USA:ta olemaan turvassa.

Dr. Kamar: Meidän on myös puhuttava kaksoiskäytöstä. Jos otat sotilastyön biologian tai kyberturvallisuuden parissa, voimme ottaa erittäin lupaavat työkalut, joita meillä on tällä hetkellä, ja käyttää niitä, koska haluamme turvallisia järjestelmiä ja uusia lääkkeitä. Mutta jokaisella hyvällä käytöllä sinulla on huono käyttö. Missä käyttötapauksissa emme halua tekoälyn käytettävän? Avoimen lähdekoodin sovelluksissa ihmiset voivat kopioida näitä malleja. Miten voimme estää ihmisiä tekemästä vahinkoa näissä tapauksissa?

K: Vuorovaikutuksessa kielimallien kanssa aikuiset ymmärtävät, ettei se ole elossa/itsetietoinen, mutta entä useita sukupolvia myöhemmin; lapset, joilla on ollut se siitä lähtien, kun he muistavat seurustelun? Heillä on tutori tai opettaja, joka on täysin tekoäly; järjestelmään on upotettu ohjaaja. He voivat luoda siteen ohjeeseen, ajatella, että heillä on hyvä suhde, ja sitten ohjelma poistetaan. Mikä on sosiaalisten emotionaalisten siteiden lapsipsykologia ei-persoonallisten entiteettien kanssa?

Dr. Kamar: Tarvitsemme tutkimusta, tieteidenvälistä tutkimusta, ja tarvitsemme sitä nopeasti. Saatamme saada nämä vastaukset 5 vuoden kuluttua, mutta siinä ajassa tekoälystä voi tulla iso osa 10-vuotiaan lapseni elämää. Kysymyksesi on erittäin tärkeä. Tutkimusten mukaan jopa viattomilla järjestelmillä voi olla takaovia. Tarvitsemme turvallisuusasiantuntijoita ja lasten kehitysasiantuntijoita, jotka keskustelevat tänään.

Tohtori Daumé: En tiedä, muistaako kukaan tarkkailua Barbieta – tässä on suuri tietosuojaongelma. Se on kiinnostavampi sosiaalinen kysymys. Vastaukset oli viritetty liian positiivisiksi. Lapset sanoisivat asioita, kuten olen vihainen, koska Sally ei leikkinyt kanssani, eikä se anna sosiaalisesti sopivia ehdotuksia. Olen huolissani erittäin positiivisista toimijoista, koska positiivisuus ei ole aina oikea vastaus.

Kiitos, että luit, ja pysy kuulolla AAAS 2024:n kolmannen ja viimeisen paneelimme yhteenvedosta.

• SEO-pohjainen sisällön ja PR-jakelu. Vahvista jo tänään.
• PlatoData.Network Vertical Generatiivinen Ai. Vahvista itseäsi. Pääsy tästä.
• PlatoAiStream. Web3 Intelligence. Tietoa laajennettu. Pääsy tästä.
• PlatoESG. hiili, CleanTech, energia, ympäristö, Aurinko, Jätehuolto. Pääsy tästä.
• PlatonHealth. Biotekniikan ja kliinisten kokeiden älykkyys. Pääsy tästä.
• Lähde: https://feeds.feedblitz.com/~/874544948/0/cccblog~CCC-AAAS-Large-Language-Models-Helpful-Assistants-Romantic-Partners-or-Con-Artists-Part-Two/