Zephyrnet-logotyp

NITRD:s 30-årsjubileumssymposium Sammanfattning – Panel 5: Hur teknik kan gynna samhället: bredda perspektiv i grundläggande forskning

Datum:

Förra månaden firade programmet Networking and Information Technology Research and Development (NITRD) deras 30-årsjubileum i Washington DC. Du kan läsa hela sammanfattningen av evenemanget här.. I ett försök att belysa den inverkan som federala investeringar har haft på dataforskningssamhället, innehöll evenemanget fem paneler där deltagarna diskuterade nyckelprestationer på området under det senaste decenniet och framtida riktningar framåt. Varje panel fokuserade på ett viktigt delområde av datorforskning: datoranvändning i skala, nätverk och säkerhet, artificiell intelligens/maskininlärning, integritet och sakernas internet och socialt ansvarsfull datoranvändning. 

Alla paneler som presenterades under hela dagen vid NITRD 30-årsjubileumssymposium hade två röda trådar: att lyfta fram de astronomiska framstegen vi har upplevt inom datoranvändning under de senaste decennierna och att minska riskerna i samband med dessa nya framsteg. Ämnen inkluderade frågor om algoritmisk fördom, icke-inkluderande teknik, integritetsintrång, säkerhetsrisker – listan fortsätter. En sak som paneldeltagarna var överens om var att det fanns hopp om förändring och alla diskussioner rörde en väg framåt mot mer etisk och ansvarsfull datoranvändning. Modereras av Alondra Nelson (Office of Science and Technology), Panel 5 "Hur teknologi kan gynna samhället: bredda perspektiv inom grundläggande forskning” innehöll relevanta diskussioner av paneldeltagare, Janet Abbate (Virginia Polytechnic Institute och State University), Deborah Estrin (Cornell University), Charles Isbell (Georgia Institute of Technology) och Ramayya Krishnan (Carnegie Mellon University).

Nelson inledde sessionen genom att ställa en annan fråga till varje paneldeltagare som var inriktad på deras expertis. Abbate och Krishnan övervägde lösningar genom en systemlins medan Isbell och Estrin fokuserade på pedagogik och träning. 

Alondra Nelson och Janet Abbate

Abbate uppmuntrade utvecklare att se datorteknik som en del av ett större sociotekniskt system genom att införliva tre aspekter som för närvarande inte har redovisats som aktiva delar. 

  • Användare – bygg öppna system som låter användaren anpassa och skräddarsy teknologier efter deras behov. Internet är ett effektivt framgångsrikt exempel på detta.
  • Social miljö – var realistisk och förutse de negativa trender du ser i samhället (rasism, partiskhet, sexism, religiös diskriminering). Förvänta dig att de manifesterar sig i tekniska resultat och tar in berörda parter som är kunniga om den sociala miljön för att designa skydd. 
  • Naturlig miljö – ta hänsyn till teknikens hela livscykel. Minimera giftigt avfall, betona att minska koldioxidavtrycket från datorer och använd återvinningsbara, hållbara material.  

Med utgångspunkt i Abbate och omprövande systemramverket talade Krishnan om värdet av att distribuera teknologi till stöd för samhällsrelevanta och följdbeslutsuppgifter. Krishnan uppmanade oss att överväga hela pipelinen av systembyggande från att identifiera ett problem till att utvärdera systemet för bias. Varje steg – insamling av data, utveckling av AI och modellering, design- och interventionsfasen och utvärderingen är ofta tystade och detta måste ändras för att närma sig pipelinen på ett holistiskt sätt. 

Genom att ändra växeln till hur man implementerar denna vision och tillhandahåller en arbetskraft som införlivar dessa större perspektiv, vände samtalet sig till Isbell och Estrin om utbildning och hur man integrerar samhälleliga och allmänintresseta perspektiv i forskarutbildning för mänskligt centrerad teknologi. 

Estrin betonade kraften i att engagera sig med applikationer och verkliga användare, inte att utveckla teknik för innovationens skull utan att göra det för att "bygga teknik i tjänst för allmänt intresse och offentliga sektorns behov." Som ett exempel identifierade hon National Science Foundations Center for Embedded Networking Sensors (FOLKRÄKNING) som kurerade allmänhetens intresse och möjligheter inom den offentliga sektorn för doktorander när de gick igenom sin utbildning.

"Det är inte så att vi inte är utbildade att bry oss. Vi är tränade att inte bry oss, eller hur?” – Charles Isbell

Det handlar inte bara om brist på program eller möjligheter för att främja allmänhetens intresse och inspirera forskare att arbeta för allmänhetens bästa. Det är de incitamentsstrukturer som finns på plats som uppmuntrar designers att bara oroa sig för slutdesignen och att utföra uppgiften som teknologierna är designade för, utan att överväga hur dessa innovationer kommer att användas. Isbell påpekade att sättet som läroplanen är uppbyggd på och hur människor utbildas behandlar etik som något som man tar tag i i slutet, samtidigt som det borde vara inarbetat i början för att införlivas under resten av en elevs utbildning.

Nelson fortsatte med samtalet och frågade vad regeringen eller NITRD borde göra för att utbilda studenter och bygga pipelines som skapar ett mer mänskligt centrerat förhållningssätt till teknik. 

Paneldeltagarna hade ett antal rekommendationer, inklusive att uppmuntra ett mer tvärvetenskapligt tillvägagångssätt för datoranvändning, göra området mer välkomnande för etiker, sociologer, psykologer etc., ändra incitament för att belöna människor som prioriterar integritet, rättvisa, rättvisa etc., driva omvandlingen av etiska principer till faktiska verktyg, skapa möjligheter för stora grupper av mångsidigt, tvärvetenskapligt samarbete och använda sin makt för att samlas för att föra människor samman och sätta agendan mot etiska praktiker. 

Nelson påpekade att det kan vara svårt att föra människor samman för tvärvetenskapliga samarbeten på grund av viktiga skillnader mellan de olika områdena. Krishnan pekade ut tre metoder för att lindra dessa svårigheter och skapa en samarbetsbas mellan discipliner. Som exempel nämnde han Computing Community Consortiums senaste workshop om artificiell intelligens och operationsforskning. Workshopen samlade två grupper som arbetar med liknande frågor på olika sätt. Konferenser och workshops som fokuserar på att utnyttja synergier mellan områden, ger en möjlighet att föra diskussioner som leder till korsbefruktning. Ett annat medel för engagemang är gemenskaper. Som ett exempel tog han upp Georgia Techs Data Science for Public Policy Fellowship som tog in doktorander från data- och samhällsvetenskap att bedriva fältexperiment med syfte att lösa sociala, miljömässiga problem inom stora politikområden. Ett tredje exempel är Georgia Techs scopeathon, som fungerar ungefär som ett hackathon och lär människor hur man kan omfånga och arbeta med problem, hur man ställer rätt frågor och hur man avgör de rätta intressenterna. Ett fjärde och sista forum för att uppmuntra tvärvetenskapligt samarbete är federalt finansierade tvärvetenskapliga institut som National Science Foundations AI Institutes and National Laboratories.

CIFellow Jasmine Berry från University of Michigan fortsatte i linje med regeringens roll för att säkra en mer etisk och ansvarsfull framtid inom datoranvändning och frågade paneldeltagarna om övergången till mer centraliserade system och hur regeringen planerar att ge människor mer en röst i hur vetenskapen är avancerad och ser till att deras idéer om hur AI byggs faktiskt är införlivade.

Estrin försäkrade henne att det redan fanns forskare som ville engagera sig och kommunicera mer med påverkade samhällen, men att lösningen inte låg i att decentralisera systemen. Hon betonade att för att uppnå ett mer demokratiskt förhållningssätt till hur tekniken är utformad måste regeringen arbeta uppifrån och ner från incitamentsstrukturerna till allt annat. 

Paneldeltagarna kurerade en stor diskussion som identifierade potentiella finansieringsfokus och metoder som förhoppningsvis kommer att leda till ett mer mänskligt centrerat förhållningssätt till teknikutveckling. Även om det fortfarande finns mycket arbete att göra finns det en rörelse för att lägga tonvikt på etik och rättvisa i dessa system. Du kan se hela sessionen här och kolla in resten av panelinspelningarna på CCC hemsida or NITRD YouTube kanal.

plats_img

Senaste intelligens

plats_img