Plus tôt ce mois-ci, le groupe de travail inter-agences du scientifique en chef de l'US Air Force a envoyé un Demande d'informations (RFI) sur les biais involontaires liés à l'intelligence artificielle (IA). Le groupe se penche sur la question critique des biais au sein des algorithmes d’IA et d’apprentissage automatique (ML), en mettant l’accent principalement sur les ensembles de données. Ils cherchent à en savoir plus sur ces préjugés auprès des institutions universitaires telles que les institutions au service des minorités (MSI) et des collèges et universités historiquement noirs (HBCU), aux côtés de l'industrie, du gouvernement fédéral et d'autres institutions universitaires.

Malgré le développement de plusieurs outils visant à identifier et à lutter contre les préjugés, tels que la boîte à outils d'IA responsable du ministère de la Défense (DoD), des défis importants persistent dans la lutte contre les préjugés au sein des systèmes d'IA et de ML.

Le groupe reconnaît qu’à mesure que la technologie de l’IA s’étend à de nouveaux domaines, des défis uniques émergent, chacun avec son propre ensemble de préjugés spécifiques à l’application qui peuvent, par inadvertance, conduire à des résultats néfastes. Par conséquent, il existe un besoin urgent de poursuivre la recherche et la collaboration entre les disciplines afin de développer des stratégies efficaces pour détecter et atténuer les biais à chaque étape du développement de l’IA et du ML.

Les individus et les groupes souhaitant partager des informations sur la manière de mieux comprendre les biais de l'IA dans les ensembles de données doivent soumettre une réponse via leur portail avant le 15 mai.

Les réponses doivent inclure :

• une déclaration de capacités
• une description des recherches en cours et futures menées par l'institution pour lutter contre les biais involontaires en matière d'IA
• une description de tous les partenariats existants visant à rechercher et à atténuer les biais liés à l'IA
• une description des types de biais involontaires en matière d'IA qui sont observés (y compris les données collectées), les domaines dans lesquels ils se situent et les impacts qu'ils ont sur l'institution
• une déclaration proposant comment ces travaux feraient progresser l'éducation et la formation des étudiants et des chercheurs

Pour trouver plus d’informations et soumettre une réponse, consultez la DDR complète. ici.

Vous souhaitez informer le groupe sur ces défis du point de vue de l’industrie ? Ils ont également publié un RFI, où ils espèrent entendre des organisations commerciales et à but non lucratif qui utilisent des données pour développer des capacités d'IA.