Twitter cho biết thuật toán cắt xén hình ảnh được hỗ trợ bởi AI của họ rốt cuộc hơi thiên về người Da trắng và phụ nữ, đồng thời đã thực hiện các bước để loại bỏ sự phụ thuộc vào mã học máy.
Thuật toán được sử dụng để tự động quyết định phần nào của bức ảnh được chia sẻ trên mạng xã hội là tốt nhất cho màn hình xem nó. Bạn có thể tải ảnh lên ở mọi loại kích thước và tỷ lệ khung hình; tại một thời điểm nào đó, hình ảnh phải được hiển thị và Twitter đã sử dụng một hệ thống đã được đào tạo để quyết định phần nào của phương tiện truyền thông sẽ hiển thị. Tùy chọn xem toàn bộ hình ảnh đã có sẵn – thuật toán được sử dụng để tạo bản xem trước của phương tiện.
Cụ thể, phần mềm dựa trên một thuật toán nổi bật được thiết kế để giữ lại những phần thú vị và phù hợp nhất của hình ảnh trong phần cắt xem trước. Ví dụ: ảnh chụp nhanh mọi người trên bãi biển nên tập trung vào khuôn mặt của họ thay vì bầu trời hoặc cát.
Tuy nhiên, người dùng Twitter đã phát hiện ra rằng công cụ này, khi được đưa ra những lựa chọn để chọn, dường như không nhắm đến những người có làn da sáng hơn và ngực của phụ nữ. Sau khi mạng xã hội điều tra vấn đề này vào tháng XNUMX, nó nói với Đăng ký họ không tìm thấy bất kỳ bằng chứng nào về sự thiên vị về chủng tộc hoặc giới tính, mặc dù thừa nhận rằng các kỹ sư của họ có lẽ cần phải tiến hành nhiều thử nghiệm hơn.
Giờ đây, ba trong số các kỹ thuật viên của họ trong nhóm Đạo đức học máy, Tính minh bạch và Trách nhiệm giải trình cũng như nhóm Nghiên cứu hiểu nội dung của họ đã phát hiện ra rằng thuật toán nổi bật trên thực tế đã nghiêng về người Da trắng và phụ nữ.
Chúng tôi được biết phần mềm thiên về hiển thị phụ nữ nhiều hơn nam giới khoảng 8% và đối với những người có làn da sáng hơn so với những người có làn da sẫm màu hơn 4%. Khi các nhóm này được thu hẹp theo giới tính, có sự khác biệt 7% ủng hộ phụ nữ Da trắng so với phụ nữ Da đen và 2% đối với đàn ông Da trắng so với đàn ông da đen.
Sự khác biệt có vẻ nhỏ nhưng với hàng triệu triệu bức ảnh được tweet mỗi ngày, rất nhiều người sẽ gặp phải sự thiên vị.
Nhóm đã tiến hành thử nghiệm bằng cách so sánh cách phần mềm xử lý hình ảnh của phụ nữ Da đen, nam giới da đen, phụ nữ da trắng và nam giới da trắng, chạy thử nghiệm 10,000 lần. Trong nghiên cứu trước đây, nhân viên đã xem xét cách mã cắt xén người Da trắng so với người Da đen, Người da trắng so với người Ấn Độ, Người da trắng so với người châu Á và nam so với nữ, chỉ thực hiện các bài kiểm tra 200 lần. Cỡ mẫu nhỏ khiến việc phát hiện bất kỳ mức độ sai lệch đáng kể nào trở nên khó khăn hơn.
Tuy nhiên, dường như không có bằng chứng rõ ràng nào cho thấy thuật toán tập trung vào các bộ phận trên cơ thể con người ngoài khuôn mặt của họ.
Họ giải thích: “Chúng tôi nhận thấy rằng không quá 3 trong số 100 hình ảnh cho mỗi giới tính có hình ảnh không có phần trên đầu”. giấy được chia sẻ trên arXiv tuần này. “Việc cắt bỏ phần đầu là do điểm nổi bật được dự đoán cao trên các phần của hình ảnh, chẳng hạn như số trên áo của các cầu thủ thể thao hoặc huy hiệu. Những mô hình này nhất quán giữa các giới tính.”
Có thể phần ngực của phụ nữ có vấn đề là do logo hoặc hình ảnh trên quần áo của họ gây ra, điều này đã thu hút sự chú ý của mã.
Kể từ tháng XNUMX, Twitter đã dần dần triển khai một cập nhật dành cho người dùng điện thoại thông minh để ứng dụng không phụ thuộc vào thuật toán nổi bật mà thay vào đó giúp mọi người kiểm soát nhiều hơn cách hiển thị hình ảnh. Nói tóm lại, Twitter hiện hiển thị “ảnh có tỷ lệ khung hình tiêu chuẩn đầy đủ trên iOS và Android - nghĩa là không cần cắt thuật toán nổi bật” và “bản xem trước thực sự của hình ảnh trong trường soạn thảo tweet, vì vậy tác giả tweet biết tweet của họ sẽ trông như thế nào trước đó họ xuất bản.”
Rumman Chowdhury, giám đốc kỹ thuật phần mềm tại Twitter, cho biết: “Chúng tôi đã cân nhắc sự cân bằng giữa tốc độ và tính nhất quán của việc cắt xén tự động với những rủi ro tiềm ẩn mà chúng tôi thấy trong nghiên cứu này”. nói vào thứ Tư.
“Một trong những kết luận của chúng tôi là không phải mọi thứ trên Twitter đều là ứng cử viên sáng giá cho một thuật toán và trong trường hợp này, cách cắt ảnh là quyết định tốt nhất của mọi người.”
Twitter cho biết họ vẫn đang nỗ lực cải thiện kỹ thuật cắt xén hình ảnh cho các bức ảnh hiển thị trên trang web của mình và cho nhiều bức ảnh. ®
Coinsmart. Đặt cạnh Bitcoin-Börse ở Europa
Nguồn: https://go.theregister.com/feed/www.theregister.com/2021/05/19/twitter_machine_learning_image_cropping/
