AI採用アルゴリズムにおける偏見を対象としたニューヨーク市の法律の有効性に関する研究で、この法律はほとんど効果がないことが判明した。

ニューヨーク市地方法 144 (LL144) 渡された この法律は、自動雇用決定ツール (AEDT) を使用する雇用主に対し、人種と性別の偏見について毎年監査し、その結果をウェブサイトで公開することを義務付けています。そして、雇用の決定を行うためにそのようなソフトウェアを使用するという通知を求人情報に含めます。

コーネル大学、非営利のレビューサービスConsumer Reports、および非営利のData & Society Research Instituteの研究者らによる研究はまだ公表されていないが、以下のサイトで共有された。 登録。その結果、サンプリングされた391の雇用主のうち、法律で義務付けられている監査報告書を公表していたのは18社だけだったことが判明した。必要な透明性通知を含めていた雇用主はわずか 13 社（そのうち 11 社は監査報告書も公表）でした。

LL144は「自社のシステムが法の範囲内であるかどうかを決定するほぼ完全な裁量権を雇用主に与えている」とData & Societyの研究者で研究著者のXNUMX人であるジェイコブ・メトカーフ氏は語った。 登録。 「雇用主がその範囲を回避する方法は複数あります。」

メトカーフ氏は、LL144は、AEDTが差別的な結果をもたらしたことが監査で示された場合でも、企業に何らかの措置を講じるよう求めているわけではないと語った。ただし、偏った AEDT を使用していることが判明した企業が問題にさらされないという意味ではありません。

「さまざまな影響を示す監査を提出した雇用主は、他の形態の行動にも前向きだ」とメトカーフ氏は語った。 「雇用差別に関する民事訴訟は非常に高額になる可能性があります。」

Metcalf と彼の同僚数名は、ニューヨーク市の企業で使用されている AEDT を審査する監査人の経験に焦点を当てた、LL144 に関する XNUMX 番目の論文に取り組んでいます。 登録 現在査読中の論文を閲覧しました。監査により AEDT による差別事例が発見されたことが判明した。

「監査人へのインタビューから、雇用主がこれらの監査費用を支払ったにもかかわらず、数値が悪い場合には公表を拒否したことがわかっています」とメトカーフ氏は語った。 「彼らの弁護士はニューヨーク市よりも雇用機会均等委員会を恐れている。」

ニューヨーク市の法律が同様の規則の導入を遅らせている

LL144 と同様の法律が他の管轄区域でも検討されています。 AIによる雇用バイアスを防ぐというニューヨーク市の試みが効果がなかったことに議員たちが気づいたため、これらの提案はほとんど行き詰まっている。

「（法案の）提案者らは法案の構成を再考している。私の知る限り、同様の法律に対する措置は講じられていません」とメトカーフ氏は語った。カリフォルニア 見なさ 2022年に同様の法案が提出される一方、ワシントンDCとニューヨーク州もLL144のような法案を検討している。

欧州連合 AI法2023年XNUMX月に暫定合意され、採用プロセスで使用されるAIが同法の「」に位置付けられる。リスクが高い" カテゴリー、 意味 このような製品は、市場に投入される前とそのライフサイクル全体を通じてレビューされる必要があります。 EUはまだ法律を可決していない。

AIには偏見が存在する 十分に確立されました この時点で。

HR ソフトウェア会社 Workday も 訴え 同社の採用ソフトウェアが黒人応募者を差別するために使用されているという疑惑をめぐっては、LL144 がまさにそれに対抗するために設計されたものだ。

LL144 はほとんど効果がありませんでしたが、研究者らは、この法律はより良い規制に向けた第一歩であると結論付けました。

「これらの法律に取り組んでいる人は皆、責任の構造を実験しているところです。何が機能するのかはまだわかりません」とメトカーフ氏は語った。 「（LL144について）市民社会の批評家が言ったことはほぼすべて実現したが、私たちはこの論文で他の人が（将来の執行活動のために）拾うことができることを学んだ。」

Metcalf 氏は、LL144 から学べる最も重要なことの XNUMX つは、AEDT ソフトウェアの対象となる使用を構成する範囲を拡大する必要がある、と述べました。

LL144 の文言は抽象的であり、AEDT ソフトウェアが「雇用決定のための裁量的意思決定を実質的に支援または代替するために使用される」場合の AEDT ソフトウェアの使用を定義しているだけです。 「実質的」が何を意味するかは解釈次第です。

AEDT差別と闘うために作られた将来の法律が有効であるためには、AI雇用アルゴリズムの使用に関するあらゆる資格を剥奪する必要があると言われている。

「システムがスコアをレンダリングしている場合、それは範囲内です。時代は変わりました」とメトカーフは私たちに語った。 「（AEDTの使用がLL144の範囲に該当するかどうかを決定する際に）雇用主に裁量権を与えることは、この法律が達成できたであろう実際の責任を損なう倒錯的なインセンティブを生み出す。」 ®

• SEO を活用したコンテンツと PR 配信。 今日増幅されます。
• PlatoData.Network 垂直生成 Ai。 自分自身に力を与えましょう。 こちらからアクセスしてください。
• プラトアイストリーム。 Web3 インテリジェンス。 知識増幅。 こちらからアクセスしてください。
• プラトンESG。 カーボン、 クリーンテック、 エネルギー、 環境、 太陽、 廃棄物管理。 こちらからアクセスしてください。
• プラトンヘルス。 バイオテクノロジーと臨床試験のインテリジェンス。 こちらからアクセスしてください。
• 情報源： https://go.theregister.com/feed/www.theregister.com/2024/01/23/nyc_ai_hiring_law_ineffective/