La începutul acestei luni, grupul de lucru inter-agenții al șefului de știință al forțelor aeriene americane a trimis un Solicitare de informații (RFI) privind părtinirea neintenționată a inteligenței artificiale (AI).. Grupul analizează problema critică a părtinirii în cadrul algoritmilor AI și Machine Learning (ML), cu accent principal pe seturile de date. Ei caută să învețe despre aceste părtiniri de la instituții academice, cum ar fi instituțiile care servesc minorităților (MSI) și colegii și universități istoric negru (HBCU), alături de industrie, guvernul federal și alte instituții academice.

În ciuda dezvoltării mai multor instrumente care vizează identificarea și abordarea părtinirii, cum ar fi setul de instrumente AI responsabil al Departamentului de Apărare (DoD), provocări semnificative persistă în combaterea părtinirii în cadrul sistemelor AI și ML.

Grupul recunoaște că, pe măsură ce tehnologia AI se extinde în noi domenii, apar provocări unice, fiecare cu propriul set de părtiniri specifice aplicației, care pot duce, din neatenție, la rezultate dăunătoare. Prin urmare, există o nevoie urgentă de cercetare și colaborare continuă între discipline pentru a dezvolta strategii eficiente pentru detectarea și atenuarea părtinirii în fiecare etapă a dezvoltării AI și ML.

Persoanele și grupurile interesate să împărtășească informații despre cum să înțeleagă mai bine părtinirea AI în seturile de date ar trebui să trimită un răspuns prin portalul lor până pe 15 mai.

Răspunsurile ar trebui să includă:

• o declarație de capacități
• o descriere a cercetărilor în curs și viitoare pe care instituția le-a efectuat pentru a combate părtinirea neintenționată a IA
• o descriere a tuturor parteneriatelor existente care vizează cercetarea și atenuarea părtinirii AI
• o descriere a tipurilor de părtinire neintenționată a IA care sunt observate (inclusiv datele colectate), domeniile în care se află și impactul pe care le au asupra instituției
• o declarație care propune modul în care această muncă ar avansa în educația și formarea studenților și cercetătorilor

Pentru a găsi mai multe informații și pentru a trimite un răspuns, consultați RFI complet aici.

Vrei să informezi grupul despre aceste provocări din perspectiva industriei? De asemenea, au lansat un RFI, unde speră să audă de la organizații comerciale și non-profit care folosesc date pentru a dezvolta capabilități AI.