Gerakan untuk meminta pertanggungjawaban AI mendapatkan lebih banyak tenaga

The movement to hold AI accountable gains more steam

Algoritma memainkan peran yang berkembang dalam kehidupan kita, bahkan karena kekurangan mereka menjadi lebih jelas: seorang pria Michigan yang dituduh melakukan penipuan harus mengajukan kebangkrutan; alat penyaringan otomatis secara tidak proporsional merugikan orang kulit berwarna yang ingin membeli rumah atau menyewa apartemen; Pengguna Facebook kulit hitam mengalami lebih banyak pelecehan daripada pengguna kulit putih. Sistem otomatis lainnya telah menilai guru, siswa, dan menandai orang berkulit gelap lebih sering karena menyontek saat ujian.

Sekarang, upaya sedang dilakukan untuk lebih memahami caranya AI bekerja dan meminta pertanggungjawaban pengguna. Dewan Kota New York bulan lalu mengadopsi undang-undang yang mewajibkan audit algoritma yang digunakan oleh pemberi kerja dalam perekrutan atau promosi. Undang-undang, yang pertama dari jenisnya di negara ini, mengharuskan pengusaha untuk membawa orang luar untuk menilai apakah suatu algoritme menunjukkan bias berdasarkan jenis kelamin, ras, atau etnis. Pengusaha juga harus memberi tahu pelamar kerja yang tinggal di New York ketika kecerdasan buatan berperan dalam memutuskan siapa yang akan dipekerjakan atau dipromosikan.

Di Washington, DC, anggota Kongres sedang menyusun RUU yang akan mengharuskan bisnis untuk mengevaluasi sistem pengambilan keputusan otomatis yang digunakan di berbagai bidang seperti perawatan kesehatan, perumahan, pekerjaan, atau pendidikan, dan melaporkan temuannya ke Komisi Perdagangan Federal; tiga dari lima anggota FTC mendukung regulasi algoritma yang lebih kuat. Bill of Rights AI yang diusulkan bulan lalu oleh Gedung Putih menyerukan pengungkapan ketika AI membuat keputusan yang berdampak pada hak-hak sipil seseorang, dan dikatakan bahwa sistem AI harus “diaudit dengan hati-hati” untuk akurasi dan bias, antara lain.

Di tempat lain, anggota parlemen Uni Eropa sedang mempertimbangkan undang-undang yang mewajibkan pemeriksaan AI yang dianggap berisiko tinggi dan membuat daftar publik untuk sistem berisiko tinggi. Negara-negara termasuk China, Kanada, Jerman, dan Inggris juga telah mengambil langkah-langkah untuk mengatur AI dalam beberapa tahun terakhir.

Julia Stoyanovich, seorang profesor di Universitas New York yang bertugas di Gugus Tugas Sistem Keputusan Otomatis Kota New York, mengatakan bahwa dia dan para siswa baru-baru ini memeriksa alat perekrutan dan menemukan bahwa alat itu memberi nilai kepribadian yang berbeda kepada orang-orang berdasarkan program perangkat lunak yang mereka gunakan untuk membuat resume mereka. Studi lain menemukan bahwa algoritme perekrutan menyukai pelamar berdasarkan di mana mereka pergi ke sekolah, aksen mereka, apakah mereka memakai kacamata, atau apakah ada rak buku di latar belakang.

Stoyanovich mendukung persyaratan pengungkapan dalam undang-undang Kota New York, tetapi dia mengatakan persyaratan audit cacat karena hanya berlaku untuk diskriminasi berdasarkan jenis kelamin atau ras. Dia mengatakan algoritme yang menilai orang berdasarkan font dalam resume mereka akan diterima di bawah hukum karena tidak mendiskriminasi atas dasar itu.

“Beberapa alat-alat ini benar-benar tidak masuk akal,” katanya. “Ini adalah hal-hal yang benar-benar harus kita ketahui sebagai anggota masyarakat dan sebagai manusia. Kita semua akan melamar pekerjaan di beberapa titik.”

Beberapa pendukung pengawasan yang lebih ketat mendukung audit wajib atas algoritma yang serupa dengan audit keuangan perusahaan. Lainnya lebih suka “penilaian dampak” mirip dengan laporan dampak lingkungan. Kedua kelompok setuju bahwa lapangan sangat membutuhkan standar tentang bagaimana tinjauan tersebut harus dilakukan dan apa yang harus mereka sertakan. Tanpa standar, bisnis dapat terlibat dalam “pencucian etika” dengan mengatur audit yang menguntungkan. Para pendukung mengatakan bahwa tinjauan tidak akan menyelesaikan semua masalah yang terkait dengan algoritme, tetapi mereka akan membantu membuat pembuat dan pengguna AI bertanggung jawab secara hukum.

Laporan yang akan datang oleh Algorithmic Justice League (AJL), sebuah lembaga nonprofit swasta, merekomendasikan untuk mewajibkan pengungkapan saat model AI digunakan dan membuat repositori publik untuk insiden di mana AI menyebabkan kerugian. Repositori dapat membantu auditor menemukan potensi masalah dengan algoritme dan membantu regulator menyelidiki atau mendenda pelanggar berulang. Salah satu pendiri AJL, Joy Buolamwini, ikut menulis audit berpengaruh tahun 2018 yang menemukan algoritme pengenalan wajah bekerja paling baik pada pria kulit putih dan terburuk pada wanita dengan kulit gelap.

Baca selengkapnya

Rekomendasi:

Korban BitConnect dapat melanjutkan dengan gugatan… Beranda » Bisnis » Korban BitConnect dapat melanjutkan dengan gugatan vs promotor penipuan, aturan pengadilan banding Gugatan class action terhadap promotor penipuan mata uang digital BitConnect dapat dilanjutkan, pengadilan banding…
Mengapa keragaman dalam uji klinis itu penting Dengan menyakiti orang kulit berwarna dan wanita lebih dari kelompok lain, pandemi Covid-19 telah mengungkap kenyataan pahit: Faktor-faktor seperti jenis kelamin, ras, dan pendapatan dapat sangat memengaruhi akses ke layanan…
Lebih dari 30 karyawan Activision Blizzard telah… 37 Karyawan Activision Blizzard dilaporkan telah "keluar" dari perusahaan sejak Juli tahun lalu sebagai bagian dari upaya perusahaan untuk menindak masalah seputar pelecehan seksual, menurut dokumen internal yang diperoleh Wall…
Rahasia Wajah Putih Berseri: Tips Alami untuk Kulit… Hai semuanya! Siapa yang di sini ingin memiliki kulit putih alami yang sehat dan cerah? Naik Pangkat PNS ya? Kulit putih alami tidak hanya menjadi dambaan wanita, tetapi juga pria.…
Anggota Kongres Kentucky yang Kontroversial… Topline Rep. Thomas Massie (R-Ky.) mentweet foto Natal keluarganya pada hari Sabtu di mana mereka semua memegang senjata dan tersenyum di depan pohon Natal, dengan judul: “Selamat Natal! hal. Santa,…
Bisakah Anda menghasilkan uang dengan kata-kata?… Home » Wawancara » Dapatkah Anda menghasilkan uang dengan kata-kata? John Pitts menjelaskan caranya di CoinGeek Backstage Kamus telah menjadi bagian dari hidup kita. Kami menggunakannya sebagai sumber utama untuk…
Bagaimana orang India di internet memandang dukungan… Sementara banyak komentator Barat mengkritik pemerintah India karena tidak menentang invasi Rusia ke Ukraina, banyak orang India di internet telah menyatakan dukungannya untuk posisi New Delhi. Mereka telah menawarkan berbagai…
Kesepakatan TikTok-Oracle akan menetapkan dua… Sam Whitney | Getty ImagesPada bulan Agustus 2020, Presiden Donald Trump menjatuhkan bom perintah eksekutif yang melarang TikTok di Amerika Serikat. Sejak saat itu, saat TikTok bersaing dengan perusahaan Teknologi…
Kota New York Akan Mengakhiri Ribuan Pekerja Kota… Topline New York City diperkirakan akan memecat hingga 4.000 pegawai kota pada hari Jumat karena mereka menolak untuk mematuhi mandat vaksin pemerintah kota, menyusul melalui persyaratan vaksin setelah mengundang kontroversi…
Bagaimana hot flash mempengaruhi tidur? Apa itu hot flashes? Hot flashes (juga disebut keringat malam saat terjadi di malam hari) melibatkan peningkatan suhu tubuh secara tiba-tiba dan dapat terjadi dengan: Aliran air - drainase berkeringat…
Sebuah Kata Peringatan untuk Tenaga Kerja… Menjelang peringatan dua tahun awal pandemi COVID-19, saya mengingat kembali berapa kali saya ditanya oleh klien dan kolega tentang apakah tenaga kerja TI jarak jauh akan menjadi pekerja sementara atau…
RUU NYC melarang alat perekrutan AI yang gagal dalam… Kota New York dapat segera mengurangi kemungkinan bias AI di pasar kerja. Associated Press mencatat dewan kota telah mengesahkan undang-undang yang melarang sistem perekrutan AI yang tidak lulus audit tahunan…
Solusi untuk kekurangan tenaga kerja: remaja? Bulan setelah laporan pertama tentang kekurangan tenaga kerja, bisnis merasakan dampaknya. Kurangnya pekerja telah memaksa bisnis untuk mengurangi jam kerja, membatasi layanan, dan bahkan menutup pintu mereka; bagi konsumen, hal…
'Bukti Signifikan': Jaksa Agung New York… Topline Jaksa Agung New York Letitia James pada hari Selasa menuduh Trump Organization salah menyatakan nilai beberapa aset untuk keuntungan ekonomi dan meminta pengadilan untuk memaksa Donald Trump dan dua…
Bagaimana audit SEO teknis dapat menguntungkan situs… Setiap orang mendukung perusahaan yang sukses. Tetapi strategi pemasaran digital yang berbeda akan bekerja dengan baik untuk bisnis yang berbeda. Performa SEO itu penting dan di situlah audit SEO teknis…
Bagaimana Rasanya Menjadi Wanita Berwarna dalam Arsitektur Para peneliti yang mempelajari bias dalam industri arsitektur menemukan bahwa hal itu sama dengan industri lain yang telah mereka pelajari, termasuk hukum, sains, dan teknik. Mereka menemukan bahwa hanya seperempat…
Apakah Kebijakan Keuangan Anda Cukup Kuat untuk… Ketika setiap sen berharga, mendapatkan kendali atas keuangan bisnis kecil Anda adalah perhatian utama. Perusahaan kecil harus menjalankan kapal yang ketat, sehingga proses keuangan harus efisien, aman, dan terkendali untuk…
ABCDE untuk identifikasi melanoma 1 dari 40 wanita akan mengembangkan melanoma, yang merupakan jenis kanker kulit yang paling serius Apa itu melanoma?Melanoma adalah jenis kanker kulit yang dapat berkembang di mana saja di tubuh…
Di mana membeli CPU 'Alder Lake' generasi… Gordon Mah Ung Pengecer mulai mengungkapkan harga jalanan dan ketersediaan untuk prosesor Intel Core "Alder Lake" generasi ke-12 yang baru, dan meskipun tidak aneh, mereka 'tidak terlalu cantik baik. CPU…
Ujian Sejarah Indonesia: Tantangan Masa Lalu,… Soal Ulangan Sejarah Indonesia Kelas 11 Semester 2: Kunci Sukses untuk Raih Nilai Bagus! Apakah Anda khawatir dengan soal ulangan sejarah Indonesia kelas 11 semester 2 yang akan datang? Jangan…
Tim pemasaran meninjau kembali kesesuaian merek di… Merek dan orang ingin tahu bahwa aplikasi media sosial adalah tempat yang aman untuk terhubung, bebas dari paparan konten berbahaya. Kesesuaian merek menggambarkan praktik menentukan toleransi merek tertentu terhadap iklan…
Alat moderasi konten untuk menghentikan ekstremisme Perusahaan teknologi lebih aktif dari sebelumnya dalam mencoba mencegah teroris, supremasi kulit putih, ahli teori konspirasi, dan individu, organisasi, dan gerakan kebencian lainnya untuk mengeksploitasi platform mereka, tetapi tekanan pemerintah…
Hidup Dengan Lupus - Wanita Sehat Marisa Mays, 40, memiliki masalah kesehatan sejak pertengahan 20-an. Dia mulai dengan kehamilan pertamanya, ketika dia mengalami komplikasi dari fibroid, ditidurkan dan melahirkan prematur. "Sejak itu, hidup saya tidak benar-benar…
Nasihat dokter kulit untuk wanita kulit berwarna Kita semua harus mencintai kulit tempat kita hidup. Meskipun banyak wanita memiliki tujuan yang sama dalam hal perawatan kulit—mulai dari menemukan pelembap yang tepat hingga menangani kondisi kulit yang umum—wanita…
Wanita kulit hitam lebih mungkin meninggal karena… Pada 2012, Adrienne Moore memperhatikan bahwa siklus menstruasinya berubah. Menstruasinya menjadi tidak teratur, dan dia datang dengan pendarahan hebat dan kram parah pada saat mereka tiba. Penyedia layanan kesehatan telah…
Cuomo Dihapus Lagi: Mantan Gubernur Tidak Akan… Topline Mantan Gubernur New York Andrew Cuomo yang dipermalukan tidak akan menghadapi tuntutan di Westchester County menyusul tuduhan bahwa dia melecehkan dua wanita, untuk kedua kalinya dalam waktu kurang dari…
Apa yang Harus Dipelajari oleh Setiap Pemimpin… Bulan lalu, Jon Gruden mengundurkan diri sebagai pelatih kepala Las Vegas Raiders setelah serangkaian email meresahkan menjadi publik. Email yang berasal dari 2011 hingga 2018 ketika pelatih bekerja untuk ESPN,…
Kulit Wajah Putih Berkilau, Bukti Cinta Diri yang… Tips untuk Kulit Wajah Putih? Ada di Sini! Setiap orang tentunya menginginkan wajah yang putih dan bersih. Namun, berbagai faktor seperti paparan sinar matahari, polusi udara, dan stres dapat membuat…
'Kita perlu memiliki orang-orang yang duduk di… 5 Oktober 2021 oleh Kimeko McCoy Tahun lalu, 2020, adalah seruan bagi para pemasar, dan bahkan dunia, untuk memperjuangkan keadilan sosial. Sebagai tanggapan, agensi dan merek merilis pernyataan Black Lives…
Mengapa perawatan HIV tidak menjangkau mereka yang… Hydeia Broadbent tidak pernah tahu hidup tanpa HIV. HIV lahir pada tahun 1984, dan virus Broadbent berkembang menjadi Acquired Immunodeficiency Syndrome (AIDS), yang berarti jumlah sel T (sel darah putih…