Ранее в этом месяце межведомственная рабочая группа главного научного сотрудника ВВС США разослала Запрос информации (RFI) о непреднамеренной предвзятости искусственного интеллекта (ИИ). Группа изучает критическую проблему предвзятости в алгоритмах искусственного интеллекта и машинного обучения (ML), уделяя особое внимание наборам данных. Они стремятся узнать об этих предубеждениях от академических учреждений, таких как учреждения, обслуживающие меньшинства (MSI) и исторически сложившиеся колледжи и университеты для чернокожих (HBCU), а также от промышленности, федерального правительства и других академических учреждений.

Несмотря на разработку нескольких инструментов, направленных на выявление и устранение предвзятости, таких как набор инструментов ответственного ИИ Министерства обороны (DoD), сохраняются серьезные проблемы в борьбе с предвзятостью в системах ИИ и МО.

Группа признает, что по мере проникновения технологии искусственного интеллекта в новые области возникают уникальные проблемы, каждая из которых имеет свой собственный набор предубеждений, специфичных для конкретного приложения, которые могут непреднамеренно привести к пагубным последствиям. Поэтому существует острая необходимость в продолжении исследований и сотрудничестве между представителями разных дисциплин для разработки эффективных стратегий обнаружения и смягчения предвзятости на каждом этапе развития ИИ и МО.

Отдельные лица и группы, заинтересованные в обмене информацией о том, как лучше понять предвзятость ИИ в наборах данных, должны отправить ответ через свой портал до 15 мая.

Ответы должны включать:

• заявление о возможностях
• описание текущих и будущих исследований, проведенных учреждением для борьбы с непреднамеренной предвзятостью ИИ.
• описание всех существующих партнерств, направленных на исследование и смягчение предвзятости ИИ
• описание наблюдаемых типов непреднамеренной предвзятости ИИ (включая собираемые данные), областей, в которых они находятся, и влияния, которое они оказывают на учреждение.
• заявление, в котором предлагается, как эта работа будет способствовать образованию и подготовке студентов и исследователей

Чтобы найти дополнительную информацию и отправить ответ, ознакомьтесь с полным текстом RFI. здесь.

Хотите проинформировать группу об этих проблемах с точки зрения отрасли? Они также выпустили RFI, где они надеются услышать мнения коммерческих и некоммерческих организаций, которые используют данные для разработки возможностей искусственного интеллекта.