A principios de este mes, el grupo de trabajo interinstitucional del científico jefe de la Fuerza Aérea de EE. UU. envió un Solicitud de información (RFI) sobre el sesgo no intencionado de la Inteligencia Artificial (IA). El grupo está profundizando en la cuestión crítica del sesgo dentro de los algoritmos de IA y aprendizaje automático (ML), con énfasis principal en los conjuntos de datos. Buscan aprender sobre estos sesgos de instituciones académicas como las instituciones al servicio de minorías (MSI) y los colegios y universidades históricamente negros (HBCU), junto con la industria, el gobierno federal y otras instituciones académicas.

A pesar del desarrollo de varias herramientas destinadas a identificar y abordar los prejuicios, como el conjunto de herramientas de IA responsable del Departamento de Defensa (DoD), persisten desafíos importantes en la lucha contra los prejuicios dentro de los sistemas de IA y ML.

El grupo reconoce que a medida que la tecnología de IA se expande a nuevos dominios, surgen desafíos únicos, cada uno con su propio conjunto de sesgos específicos de la aplicación que, sin darse cuenta, pueden conducir a resultados perjudiciales. Por lo tanto, existe una necesidad urgente de investigación y colaboración continuas entre disciplinas para desarrollar estrategias efectivas para detectar y mitigar sesgos en cada etapa del desarrollo de la IA y el ML.

Las personas y grupos interesados ​​en compartir información sobre cómo comprender mejor el sesgo de la IA en los conjuntos de datos deben enviar una respuesta a través de su portal antes del 15 de mayo.

Las respuestas deben incluir:

• una declaración de capacidades
• una descripción de las investigaciones en curso y futuras que la institución ha realizado para combatir el sesgo involuntario de la IA
• una descripción de todas las asociaciones existentes destinadas a investigar y mitigar el sesgo de la IA
• una descripción de los tipos de sesgos de IA no intencionados que se observan (incluidos los datos que se recopilan), los dominios en los que se encuentran y los impactos que tienen en la institución
• una declaración que propone cómo este trabajo avanzaría en la educación y formación de estudiantes e investigadores

Para encontrar más información y enviar una respuesta, consulte el RFI completo. esta página.

¿Está interesado en informar al grupo sobre estos desafíos desde una perspectiva de la industria? También han publicado un RFI, donde esperan escuchar a organizaciones comerciales y sin fines de lucro que utilizan datos para desarrollar capacidades de IA.