Đầu tháng này, nhóm làm việc liên cơ quan của Nhà khoa học trưởng Không quân Hoa Kỳ đã gửi một Yêu cầu thông tin (RFI) về thành kiến ​​trí tuệ nhân tạo (AI) ngoài ý muốn. Nhóm đang đi sâu vào vấn đề quan trọng về sai lệch trong thuật toán AI và Machine Learning (ML), với trọng tâm chính là các bộ dữ liệu. Họ đang tìm cách tìm hiểu về những thành kiến ​​này từ các tổ chức học thuật như các tổ chức phục vụ thiểu số (MSI) và các trường cao đẳng và đại học dành cho người da đen trong lịch sử (HBCU), cùng với ngành công nghiệp, chính phủ liên bang và các tổ chức học thuật khác.

Bất chấp sự phát triển của một số công cụ nhằm xác định và giải quyết sự thiên vị, chẳng hạn như bộ công cụ AI có trách nhiệm của Bộ Quốc phòng (DoD), vẫn tồn tại những thách thức đáng kể trong việc chống lại sự thiên vị trong hệ thống AI và ML.

Nhóm nhận ra rằng khi công nghệ AI mở rộng sang các lĩnh vực mới, những thách thức riêng sẽ xuất hiện, mỗi thách thức có những thành kiến ​​riêng dành riêng cho ứng dụng có thể vô tình dẫn đến những kết quả có hại. Do đó, nhu cầu cấp thiết là phải tiếp tục nghiên cứu và hợp tác giữa các ngành để phát triển các chiến lược hiệu quả nhằm phát hiện và giảm thiểu sai lệch ở mọi giai đoạn phát triển AI và ML.

Các cá nhân và nhóm quan tâm đến việc chia sẻ thông tin về cách hiểu rõ hơn về sự thiên vị AI trong bộ dữ liệu nên gửi phản hồi qua cổng thông tin của họ trước ngày 15 tháng XNUMX.

Các câu trả lời nên bao gồm:

• một tuyên bố về khả năng
• mô tả về nghiên cứu đang diễn ra và trong tương lai mà tổ chức đã thực hiện để chống lại sự thiên vị ngoài ý muốn của AI
• mô tả về tất cả các mối quan hệ đối tác hiện có nhằm nghiên cứu và giảm thiểu sai lệch về AI
• mô tả về các loại sai lệch ngoài ý muốn của AI đang được quan sát (bao gồm cả dữ liệu được thu thập), các lĩnh vực của chúng và tác động của chúng đối với tổ chức
• một tuyên bố đề xuất công việc này sẽ thúc đẩy việc giáo dục và đào tạo sinh viên và nhà nghiên cứu như thế nào

Để tìm thêm thông tin và gửi phản hồi, hãy xem RFI đầy đủ tại đây.

Bạn quan tâm đến việc thông báo cho nhóm về những thách thức này từ góc độ ngành? Họ cũng đã phát hành một RFI, nơi họ hy vọng nhận được phản hồi từ các tổ chức thương mại và phi lợi nhuận sử dụng dữ liệu để phát triển khả năng AI.