CCC stödde tre vetenskapliga sessioner vid årets AAAS årliga konferens, och om du inte kunde närvara personligen kommer vi att sammanfatta varje session. Idag kommer vi att sammanfatta höjdpunkterna i Q&A-delen av sessionen, "Stora språkmodeller: hjälpsamma assistenter, romantiska partners eller bedragare?” Den här panelen, modererad av Dr Maria Gini, CCC Council Member och Computer Science & Engineering professor vid University of Minnesota, medverkade Dr Ece Kamar, VD för AI Frontiers på Microsoft Research, Dr Hal Daumé III, professor i datavetenskap vid University of Maryland, och Dr Jonathan May, professor i datavetenskap vid University of Southern California Information Sciences Institute.

Nedan är den fascinerande sammanfattningen av Q&A-delen av "Stora språkmodeller: hjälpsamma assistenter, romantiska partners eller bedragare?"panel. Är AI kapabel att älska? Vilka typer av effekter kan dessa modeller ha på barn? Hur står sig USA:s AI-kapacitet? Ta reda på nedan:

F: När vi använder AI-språkmodeller i flerspråkiga och mångkulturella sammanhang, vilka metoder ska vi göra?

Dr May: När man utvecklar teknik och sänker väggar borde det göras lättare för människor att göra vad de vill göra. Vad alla vill göra, snarare än bara jag. Tack AI, bra att fokusera på mig, men vi borde vara uppmärksamma på resten av världen i allmänhet.

F: Några av dessa allmänna frågor – det är inte första gången de har tagits upp. Det verkar som att samhället inte kommer att komma till dessa av sig själva. Jag undrar om ni alla har idéer om hur man kan få dessa konversationer till handling?

Dr Kamar: Det finns roller för många olika parter att spela. Utvärdering har stor betydelse för att representera olika kulturer och befolkningar. När datamängder inte har mångfald i världsrepresentation, är de resulterande systemen inte representativa. Mycket arbete måste göras för att utforma bästa praxis för utvärdering, förordningar och efterlevnadsåtgärder. Vita huset har gjort åtaganden, och Blueprint för en AI Bill of Rights börjar. Det har funnits processer som implementerats inom industrin, med många bra hjärnor som arbetar tillsammans (inte perfekt, men att generalisera över branschen finns potential). Det pågår möten för att komma överens om att börja som standard; eventuellt i framtida reglering. Hur gör vi utvärderingar, säkerhetsanalyser etc.? Inget av dessa samtal har den mångfald som måste finnas i rummet. Tänk på vem som behöver vara i rummet när beslut fattas.

Dr Daumé: Jag tror att när folk pratar om reglering, särskilt inom AI, tänker alla på straffregleringar. Men detta kan också stimulera till reglering. Finansierande beslutsfattare och NSF skulle kunna främja utvecklingsverktyg som hjälper oss som nation och världen.

F: Finansiering för AI ligger långt efter i USA jämfört med andra platser i världen. Den nya investeringen från NSF är 20 miljoner-någonting, vilket är jordnötter jämfört med industriinvesteringar. Den federala regeringen har släppt rapporter från studier i flera år, och slutsatsen är att USA måste komma igång. Jag älskar Eces fasförändringsanalogi. Termodynamisk gräns med siffror växer. Vi vill ha öppen AI, vem ska betala för det? Det finns inte tillräckligt med pengar. Vad är dina förslag? Öppna AI? Men vi har inte ens open access-publicering. Skulle du rekommendera presidenten att inte ha lagstiftning?

Dr May: Jag tror att det finns pengar; någon såg för mig att du har lyckats övertyga regeringen att snurra runt partiklar, men att du inte har kunnat avleda det till oss.

Dr. Kamar: Anledningen till att företag som bygger dessa modeller får dessa resultat är genom centralisering av resurser. Det finns mycket man får från skalan. Borde fundera på hur vi centraliserar investeringar i akademin så vi får en delad resurs istället för att ha massor av olika modeller. Vi ser att det inte bara handlar om skala. Inget vi behöver göra just nu, men nuvarande arkitektur är inte bra. Att ha bra AI-förmåga borde inte bara handla om mer pengar och mer kraft.

F: Överrepresentationsbias i svaren. Vet vi var det kommer ifrån? Jag är en mattekille, och mina tankar går till att det är en sammansättning av avrundningsfel som lägger till bias? Om lika representation skulle jag föreställa mig att det skulle producera lika representation, eller skulle det fortfarande finnas där?

Dr May: Mycket handlar om spikfunktioner. Mjukt max är en viktig del av träningen. Högst vill vara #1. Det är inte som att det finns någon perfekt språkutdata, men vi vill ha en viss partiskhet. Vi vill bara minimera skador på människor, och många gånger känner vi inte igen dessa. Utplacering utan förståelse är ett problem. 

Dr Daumé: En av utmaningarna med dessa modeller är att det inte finns några smala AI-modeller längre. De säger att de kan göra vad som helst, så det är svårt att testa allt.

F: Du nämnde att AI är ett verktyg eller en ersättning, vilken väg ser du att det går?

Dr. Daumé: Det går mer pengar till ersättning.

F: Titeln nämnde romantisk AI. Jag vill veta mer om det.

Dr May: Det finns inte tillräckligt med avsikter i modeller för att de ska vara livskraftiga romantiska ersättare, men de är lika bra som människor på att känna igen mönster även när de inte existerar.

Dr Kamar: Jag råder dig att inte tänka på AI som vad det är just nu. Försök att projicera in i framtiden – föreställ dig att om några år kommer dessa system att anpassas till dig. Vilken relation kommer du att ha med det systemet?

Dr. May: Men kommer det att älska dig?

Dr. Kamar: Det kommer att berätta för dig att den älskar dig.

Dr May: Men räcker det?

F: Jag vill höra råd för personer som inte är inom AI-området. Hur kan vi använda dessa verktyg? Vad ska vi veta?

Dr Daumé: På University of Maryland har vi de här samtalen mycket. Det är lätt för mig att säga att journalistiken kommer att vara annorlunda om 5 år, och även andra områden. Det är obehagligt att säga att rollen som professor kommer att vara annorlunda om 5 år, men det kommer det. Jag har kollegor som använder olika LLM-plugin-program för förslag och papper; det händer redan. Jag har regelbundet tentafrågor skrivna av verktyg, men jag måste kontrollera att de är korrekta. Att skriva tentafrågor ger mig inte glädje, så AI kan ta det från min tallrik. På högre utbildning måste vi tänka mer på det. Hur förändrar det våra jobb? Det pågår många diskussioner på universiteten, men inte en massa resurser att slå samman.

F: Hur välkommet är AI att bedömas i framtiden när man överväger militära tillämpningar? Det har inte nämnts några militära ansökningar under den här sessionen – jag vet att om jag läser folk halvvägs korrekt finns det en meningsskiljaktighet i det ämnet.

Dr May: Militären är bred, mycket av mitt arbete sponsras av försvarsdepartementet. Svårt att svara specifikt, i allmänhet verkar försvarsdepartementet (inte talar för dem) prioritera säkerheten och säkerheten i USA, och kommer att fortsätta att göra det och utnyttja LLMs och AI för att hjälpa USA att vara säkra.

Dr. Kamar: Vi måste också prata om dubbel användning. Om du tar militärt arbete som pågår inom biologi eller cybersäkerhet, kan vi ta de mycket lovande verktygen vi har just nu och använda dem eftersom vi vill ha säkra system och nya droger. Men med varje bra användning kommer du att ha en dålig användning. Vilka är de användningsfall vi inte vill att AI ska användas i? I applikationer med öppen källkod kan människor replikera dessa modeller. Hur hindrar vi människor från att göra skada i dessa fall?

F: När de interagerar med språkmodeller förstår vuxna att det inte är levande/självmedvetet, men vad sägs om flera generationer senare; barn som har haft det sedan de minns umgänge? De har en handledare eller lärare som är helt AI; systemet är inbäddat med en instruktör. De kan skapa ett band med instruktionen, tycka att de har en bra relation och sedan raderas programmet. Vad är barnpsykologin för sociala känslomässiga band med icke-personliga enheter?

Dr Kamar: Vi behöver forskning, tvärvetenskaplig forskning, och vi behöver det snabbt. Om 5 år kanske vi får dessa svar, men under den tiden kan AI bli en stor del av livet för min 10-åring. Din fråga är oerhört viktig. Det finns forskning som visar att även oskyldiga system kan ha bakdörrar. Vi måste ha säkerhetsexperter och barnutvecklingsspecialister som har de samtalen idag.

Dr Daumé: Jag vet inte om någon kommer ihåg övervakningen Barbie – det finns en stor integritetsfråga här. Det är en mer intressant samhällsfråga. Svaren var inställda på att vara alltför positiva. Barn skulle säga saker som att jag är arg för att Sally inte lekte med mig, och det ger inte socialt lämpliga förslag. Jag är orolig för mycket positiva agenter, eftersom positivitet inte alltid är det rätta svaret.

Tack så mycket för att du läser, och håll utkik efter sammanfattningen av vår tredje och sista panel på AAAS 2024.

• SEO-drivet innehåll och PR-distribution. Bli förstärkt idag.
• PlatoData.Network Vertical Generative Ai. Styrka dig själv. Tillgång här.
• PlatoAiStream. Web3 Intelligence. Kunskap förstärkt. Tillgång här.
• Platoesg. Kol, CleanTech, Energi, Miljö, Sol, Avfallshantering. Tillgång här.
• PlatoHealth. Biotech och kliniska prövningar Intelligence. Tillgång här.
• Källa: https://feeds.feedblitz.com/~/874544948/0/cccblog~CCC-AAAS-Large-Language-Models-Helpful-Assistants-Romantic-Partners-or-Con-Artists-Part-Two/