Eerder deze maand stuurde de inter-agency werkgroep van de US Air Force Chief Scientist een bericht uit Verzoek om informatie (RFI) over onbedoelde vooringenomenheid op het gebied van kunstmatige intelligentie (AI).. De groep verdiept zich in het cruciale probleem van vooringenomenheid binnen AI- en Machine Learning (ML)-algoritmen, met een primaire nadruk op datasets. Ze proberen meer te weten te komen over deze vooroordelen van academische instellingen zoals instellingen voor minderheden (MSI's) en historisch zwarte hogescholen en universiteiten (HBCU's), naast de industrie, de federale overheid en andere academische instellingen.

Ondanks de ontwikkeling van verschillende tools gericht op het identificeren en aanpakken van vooroordelen, zoals de Responsible AI-toolkit van het Ministerie van Defensie (DoD), blijven er aanzienlijke uitdagingen bestaan ​​bij het bestrijden van vooroordelen binnen AI- en ML-systemen.

De groep erkent dat naarmate de AI-technologie zich naar nieuwe domeinen uitbreidt, er unieke uitdagingen ontstaan, elk met zijn eigen toepassingsspecifieke vooroordelen die onbedoeld tot schadelijke resultaten kunnen leiden. Daarom is er dringend behoefte aan voortgezet onderzoek en samenwerking tussen disciplines om effectieve strategieën te ontwikkelen voor het opsporen en verminderen van vooringenomenheid in elke fase van de ontwikkeling van AI en ML.

Individuen en groepen die geïnteresseerd zijn in het delen van informatie over hoe ze AI-vooroordelen in datasets beter kunnen begrijpen, moeten vóór 15 mei een reactie indienen via hun portal.

Reacties moeten het volgende omvatten:

• een capaciteitenverklaring
• een beschrijving van lopend en toekomstig onderzoek dat de instelling heeft uitgevoerd om onbedoelde AI-vooroordelen te bestrijden
• een beschrijving van alle bestaande partnerschappen gericht op het onderzoeken en verminderen van AI-vooroordelen
• een beschrijving van de soorten onbedoelde AI-vooroordelen die worden waargenomen (inclusief de gegevens die worden verzameld), de domeinen waarin ze zich bevinden en de impact die ze hebben op de instelling
• een verklaring waarin wordt voorgesteld hoe dit werk het onderwijs en de opleiding van studenten en onderzoekers zou bevorderen

Voor meer informatie en om een ​​reactie in te dienen, zie de volledige RFI hier.

Geïnteresseerd om de groep te informeren over deze uitdagingen vanuit een sectorperspectief? Ze hebben ook een RFI, waar ze hopen te horen van commerciële en non-profitorganisaties die data gebruiken om AI-mogelijkheden te ontwikkelen.