Các thuật toán đang được các doanh nghiệp và chính phủ sử dụng để nâng cao khả năng ra quyết định tuyển dụng, chăm sóc y tế và tạm tha. Các thuật toán có tiềm năng thay thế những thành kiến ​​của con người trong việc ra quyết định, nhưng chúng thường đưa ra những kết luận phân biệt đối xử.

Một nghiên cứu mới của Hiệp hội Tâm lý học Hoa Kỳ đã kiểm tra xem liệu mọi người có ít bị xúc phạm bởi sự phân biệt đối xử bằng thuật toán hơn là sự phân biệt đối xử của con người hay không. Nghiên cứu cho thấy rằng mọi người bớt xúc phạm về mặt đạo đức khi sự phân biệt đối xử về giới tính xảy ra vì một thuật toán hơn là sự tham gia trực tiếp của con người.

Tám nghiên cứu kiểm tra giả thuyết về thâm hụt phẫn nộ theo thuật toán này trong bối cảnh phân biệt giới tính trong hoạt động tuyển dụng giữa các nhóm người tham gia đa dạng. Để giải thích những phát hiện của họ từ tám thử nghiệm với tổng số hơn 3,900 người từ Hoa Kỳ, Canada và Na Uy, các nhà khoa học trong nghiên cứu đã tạo ra thuật ngữ “thâm hụt phẫn nộ do thuật toán”.

Khi được trình bày với các tình huống khác nhau về phân biệt giới tính trong các quyết định tuyển dụng do thuật toán và con người gây ra, những người tham gia ít bị xúc phạm về mặt đạo đức hơn về những điều do thuật toán gây ra. Những người tham gia cũng tin rằng các công ty ít phải chịu trách nhiệm pháp lý hơn đối với việc phân biệt đối xử do một thuật toán.

Trưởng nhóm nghiên cứu Yochanan Bigman, Tiến sĩ, một nghiên cứu sinh sau tiến sĩ tại Đại học Yale, cho biết, “Điều đó liên quan đến việc các công ty có thể sử dụng các thuật toán để bảo vệ mình khỏi sự đổ lỗi và sự giám sát của công chúng đối với các hành vi phân biệt đối xử. Các phát hiện có thể có ý nghĩa rộng hơn và ảnh hưởng đến các nỗ lực chống lại sự phân biệt đối xử ”.

“Mọi người thấy những người phân biệt đối xử được thúc đẩy bởi thành kiến, chẳng hạn như phân biệt chủng tộc hoặc phân biệt giới tính, nhưng họ thấy các thuật toán phân biệt đối xử là do dữ liệu thúc đẩy, vì vậy họ ít bị xúc phạm về mặt đạo đức hơn. Sự phẫn nộ về mặt đạo đức là một cơ chế xã hội quan trọng để thúc đẩy mọi người giải quyết những bất công. Nếu mọi người bớt xúc phạm về mặt đạo đức về sự phân biệt đối xử, họ có thể sẽ ít có động lực để làm điều gì đó hơn. "

Một số thử nghiệm đã sử dụng một kịch bản dựa trên một ví dụ thực tế về việc Amazon bị cáo buộc phân biệt giới tính dựa trên thuật toán để phạt các ứng viên nữ. Mặc dù nghiên cứu tập trung vào phân biệt giới tính, các kết quả có thể so sánh được khi một trong tám thử nghiệm được lặp lại để xem xét định kiến ​​về chủng tộc và tuổi tác.

Kiến thức về trí tuệ nhân tạo dường như không tạo ra sự khác biệt. Trong một thử nghiệm với hơn 150 công nhân kỹ thuật ở Na Uy, những người tham gia đã báo cáo kiến ​​thức tuyệt vời hơn về trí tuệ nhân tạo vẫn ít bị xúc phạm bởi sự phân biệt giới tính do các thuật toán gây ra.

Các nhà khoa học phát hiện ra rằng khi mọi người tìm hiểu thêm về một thuật toán cụ thể, nó có thể thay đổi cảm giác của họ. Trong một nghiên cứu khác, những người tham gia bày tỏ sự phẫn nộ lớn hơn khi tiết lộ rằng các lập trình viên nam tại một doanh nghiệp có tiền sử phân biệt giới tính đã phát triển một thuật toán tuyển dụng dẫn đến phân biệt giới tính.

Người đàn ông to lớn nói, “Các lập trình viên nên nhận thức được khả năng bị phân biệt đối xử ngoài ý muốn khi thiết kế các thuật toán mới. Các chiến dịch giáo dục cộng đồng cũng có thể nhấn mạnh rằng sự phân biệt đối xử do các thuật toán gây ra có thể là kết quả của những bất bình đẳng hiện có ”.

Tạp chí tham khảo:

1. Yochanan E. Bigman, Desman Wilson và cộng sự. Phân biệt đối xử theo thuật toán ít gây ra sự phẫn nộ về mặt đạo đức hơn là phân biệt đối xử với con người. DOI: 10.1037 / xge0001250