RUU NYC melarang alat perekrutan AI yang gagal dalam pemeriksaan bias

Kota New York dapat segera mengurangi kemungkinan bias AI di pasar kerja. Associated Press mencatat dewan kota telah mengesahkan undang-undang yang melarang sistem perekrutan AI yang tidak lulus audit tahunan yang memeriksa diskriminasi berbasis ras atau gender. Pengembang juga akan membutuhkan transparansi yang lebih besar (termasuk pengungkapan sistem otomatis), dan memberikan alternatif seperti tinjauan manusia. Denda akan mencapai hingga $1.500 per insiden.

Tagihan disahkan pada 10 November. Walikota Bill de Blasio yang akan berangkat memiliki waktu satu bulan untuk menandatanganinya menjadi undang-undang, tetapi belum mengatakan apakah dia akan melakukannya atau tidak. Jika langkah tersebut diteruskan, itu akan berlaku pada tahun 2023.

Undang-undang yang ditandatangani dapat mengurangi kemungkinan teknologi perekrutan AI menyesatkan kumpulan kandidat dan demografi karyawan yang dihasilkan. Organisasi pro-bisnis seperti Kamar Dagang New York Raya sudah mendukung, menunjukkan bahwa pengungkapan itu penting bagi pengusaha dan bakat mereka.

Namun, sudah ada kekhawatiran bahwa undang-undang yang berlaku akan tidak membantu sebanyak yang dijanjikan. Alexandra Givens dari Pusat Demokrasi & Teknologi mengatakan kepada AP RUU itu tidak memperhitungkan bias lain, seperti kemampuan atau usia. Ini juga mengasumsikan bahwa audit tersebut efektif — Julia Stoyanovich dari Universitas New York berpendapat bahwa persyaratannya “sangat mudah untuk dipenuhi.” Ada kekhawatiran bahwa undang-undang tersebut mungkin secara tidak sengaja melindungi perusahaan yang platform AI-nya memiliki bias yang berbeda atau lebih sulit dideteksi.

Semua produk yang direkomendasikan oleh Engadget dipilih oleh tim editorial kami, terlepas dari perusahaan induk kami. Beberapa cerita kami menyertakan tautan afiliasi. Jika Anda membeli sesuatu melalui salah satu tautan ini, kami dapat memperoleh komisi afiliasi.

Baca Lagi