Gerakan untuk meminta pertanggungjawaban AI mendapatkan lebih banyak tenaga

Warning: Undefined array key "tie_hide_meta" in /home/suara/public_html/wp-content/themes/sahifa/framework/parts/meta-post.php on line 3

Warning: Trying to access array offset on null in /home/suara/public_html/wp-content/themes/sahifa/framework/parts/meta-post.php on line 3

The movement to hold AI accountable gains more steam

Algoritma memainkan peran yang berkembang dalam kehidupan kita, bahkan karena kekurangan mereka menjadi lebih jelas: seorang pria Michigan yang dituduh melakukan penipuan harus mengajukan kebangkrutan; alat penyaringan otomatis secara tidak proporsional merugikan orang kulit berwarna yang ingin membeli rumah atau menyewa apartemen; Pengguna Facebook kulit hitam mengalami lebih banyak pelecehan daripada pengguna kulit putih. Sistem otomatis lainnya telah menilai guru, siswa, dan menandai orang berkulit gelap lebih sering karena menyontek saat ujian.

Sekarang, upaya sedang dilakukan untuk lebih memahami caranya AI bekerja dan meminta pertanggungjawaban pengguna. Dewan Kota New York bulan lalu mengadopsi undang-undang yang mewajibkan audit algoritma yang digunakan oleh pemberi kerja dalam perekrutan atau promosi. Undang-undang, yang pertama dari jenisnya di negara ini, mengharuskan pengusaha untuk membawa orang luar untuk menilai apakah suatu algoritme menunjukkan bias berdasarkan jenis kelamin, ras, atau etnis. Pengusaha juga harus memberi tahu pelamar kerja yang tinggal di New York ketika kecerdasan buatan berperan dalam memutuskan siapa yang akan dipekerjakan atau dipromosikan.

Di Washington, DC, anggota Kongres sedang menyusun RUU yang akan mengharuskan bisnis untuk mengevaluasi sistem pengambilan keputusan otomatis yang digunakan di berbagai bidang seperti perawatan kesehatan, perumahan, pekerjaan, atau pendidikan, dan melaporkan temuannya ke Komisi Perdagangan Federal; tiga dari lima anggota FTC mendukung regulasi algoritma yang lebih kuat. Bill of Rights AI yang diusulkan bulan lalu oleh Gedung Putih menyerukan pengungkapan ketika AI membuat keputusan yang berdampak pada hak-hak sipil seseorang, dan dikatakan bahwa sistem AI harus “diaudit dengan hati-hati” untuk akurasi dan bias, antara lain.

Di tempat lain, anggota parlemen Uni Eropa sedang mempertimbangkan undang-undang yang mewajibkan pemeriksaan AI yang dianggap berisiko tinggi dan membuat daftar publik untuk sistem berisiko tinggi. Negara-negara termasuk China, Kanada, Jerman, dan Inggris juga telah mengambil langkah-langkah untuk mengatur AI dalam beberapa tahun terakhir.

Julia Stoyanovich, seorang profesor di Universitas New York yang bertugas di Gugus Tugas Sistem Keputusan Otomatis Kota New York, mengatakan bahwa dia dan para siswa baru-baru ini memeriksa alat perekrutan dan menemukan bahwa alat itu memberi nilai kepribadian yang berbeda kepada orang-orang berdasarkan program perangkat lunak yang mereka gunakan untuk membuat resume mereka. Studi lain menemukan bahwa algoritme perekrutan menyukai pelamar berdasarkan di mana mereka pergi ke sekolah, aksen mereka, apakah mereka memakai kacamata, atau apakah ada rak buku di latar belakang.

Stoyanovich mendukung persyaratan pengungkapan dalam undang-undang Kota New York, tetapi dia mengatakan persyaratan audit cacat karena hanya berlaku untuk diskriminasi berdasarkan jenis kelamin atau ras. Dia mengatakan algoritme yang menilai orang berdasarkan font dalam resume mereka akan diterima di bawah hukum karena tidak mendiskriminasi atas dasar itu.

“Beberapa alat-alat ini benar-benar tidak masuk akal,” katanya. “Ini adalah hal-hal yang benar-benar harus kita ketahui sebagai anggota masyarakat dan sebagai manusia. Kita semua akan melamar pekerjaan di beberapa titik.”

Beberapa pendukung pengawasan yang lebih ketat mendukung audit wajib atas algoritma yang serupa dengan audit keuangan perusahaan. Lainnya lebih suka “penilaian dampak” mirip dengan laporan dampak lingkungan. Kedua kelompok setuju bahwa lapangan sangat membutuhkan standar tentang bagaimana tinjauan tersebut harus dilakukan dan apa yang harus mereka sertakan. Tanpa standar, bisnis dapat terlibat dalam “pencucian etika” dengan mengatur audit yang menguntungkan. Para pendukung mengatakan bahwa tinjauan tidak akan menyelesaikan semua masalah yang terkait dengan algoritme, tetapi mereka akan membantu membuat pembuat dan pengguna AI bertanggung jawab secara hukum.

Laporan yang akan datang oleh Algorithmic Justice League (AJL), sebuah lembaga nonprofit swasta, merekomendasikan untuk mewajibkan pengungkapan saat model AI digunakan dan membuat repositori publik untuk insiden di mana AI menyebabkan kerugian. Repositori dapat membantu auditor menemukan potensi masalah dengan algoritme dan membantu regulator menyelidiki atau mendenda pelanggar berulang. Salah satu pendiri AJL, Joy Buolamwini, ikut menulis audit berpengaruh tahun 2018 yang menemukan algoritme pengenalan wajah bekerja paling baik pada pria kulit putih dan terburuk pada wanita dengan kulit gelap.

Baca selengkapnya

Rekomendasi:

Dokter kulit menjelaskan bahwa itu adalah mitos… Ditulis oleh Adewole S. Universitas Texas di AustinMelanoma adalah bentuk kanker kulit mematikan yang menyerang orang-orang dari setiap kelompok ras dan etnis. Faktor risiko yang paling terkait dengan perkembangan kanker…
WhatsApp sekarang memungkinkan Anda mengatur semua… WhatsApp menambahkan fungsionalitas baru ke fitur pesan yang menghilang, yang memungkinkan pengguna mengatur pesan dalam obrolan untuk dihapus secara otomatis setelah jangka waktu tertentu. WhatsApp mengatakan pengguna sekarang akan memiliki…
Bagaimana Rasanya Menjadi Wanita Berwarna dalam Arsitektur Para peneliti yang mempelajari bias dalam industri arsitektur menemukan bahwa hal itu sama dengan industri lain yang telah mereka pelajari, termasuk hukum, sains, dan teknik. Mereka menemukan bahwa hanya seperempat…
Orang-orang Membahas Ide Bisnis Terburuk yang Pernah… Tidak semua orang memiliki ide terbaik untuk bisnis baru. Faktanya, beberapa ide bisnis benar-benar buruk atau dieksekusi dengan buruk.Ada diskusi yang sedang berlangsung tentang beberapa ide bisnis terburuk yang pernah…
Alat moderasi konten untuk menghentikan ekstremisme Perusahaan teknologi lebih aktif dari sebelumnya dalam mencoba mencegah teroris, supremasi kulit putih, ahli teori konspirasi, dan individu, organisasi, dan gerakan kebencian lainnya untuk mengeksploitasi platform mereka, tetapi tekanan pemerintah…
Video Quick Take: James Markarian tentang… Todd Pruzan, HBR Selamat datang di Pengambilan Cepat Video HBR. Keluarnya Australia yang, Menteri keuangan Turki dan proyek khusus di Harvard Business Review. Pandemi global telah mempercepat kebutuhan perusahaan perangkat…
RUU NYC melarang alat perekrutan AI yang gagal dalam… Kota New York dapat segera mengurangi kemungkinan bias AI di pasar kerja. Associated Press mencatat dewan kota telah mengesahkan undang-undang yang melarang sistem perekrutan AI yang tidak lulus audit tahunan…
RUU NYC melarang alat perekrutan AI yang gagal dalam… Kota New York dapat segera mengurangi kemungkinan bias AI di pasar kerja. Associated Press mencatat dewan kota telah mengesahkan undang-undang yang melarang sistem perekrutan AI yang tidak lulus audit tahunan…
DEI Tidak Cukup; Perusahaan Membutuhkan Kepemimpinan… 15 Maret 2022 Selama beberapa tahun terakhir di Amerika Serikat, kita telah melihat beberapa contoh mengerikan dari rasisme merebut kesadaran publik. Di tengah semua tragedi ini – dan protes yang…
Tahukah Anda bahwa penyakit jantung mempengaruhi… Februari adalah Bulan Jantung Amerika. Penyakit kardiovaskular sering dianggap sebagai penyakit orang kulit putih paruh baya, namun hal ini tidak sepenuhnya benar. Risiko penyakit kardiovaskular di kalangan perempuan, terutama perempuan…
RUU NYC melarang alat perekrutan AI yang gagal dalam… Kota New York dapat segera mengurangi kemungkinan bias AI di pasar kerja. Associated Press mencatat dewan kota telah mengesahkan undang-undang yang melarang sistem perekrutan AI yang tidak lulus audit tahunan…
Percakapan OB-GYN tentang kesetaraan kesehatan dan menopause Menopause adalah pengalaman yang hampir universal terjadi pada wanita paruh baya. Kebanyakan wanita akan mengalami beberapa perubahan fisik, mental, dan emosional pada tahun-tahun sebelum dan sesudah akhir siklus menstruasi mereka.…
Tanggapan 5 Kata Elon Musk terhadap Saran Pengguna… Anda harus memberi penghargaan kepada CEO Tesla, Elon Musk. Dia mampu melakukan sesuatu dengan Tesla yang tidak dimiliki pembuat mobil lain--membangun kendaraan listrik (EV) yang ingin dibeli dan dikendarai orang.…
Pemohon hipotek kulit hitam ditolak 84% lebih sering… SEATTLE, Jan. 13, 2022 /PRNewswire/ -- Tingkat kepemilikan rumah kulit hitam yang meningkat sebelum pandemi mulai turun lagi, didorong oleh kesenjangan persetujuan hipotek yang melebar antara pelamar kulit hitam dan…
Beberapa Zat Yang Terkandung Dalam Skincare Memiliki kulit wajah yang halus, lembab, dan cerah adalah impian semua orang, terutama wanita. Oleh karena itu banyak upaya dilakukan untuk mewujudkannya, salah satunya secara rutin menggunakan perawatan kulit atau…
Ras dan lokasi geografis dapat meningkatkan risiko… Orang kulit hitam Amerika 50 persen lebih mungkin meninggal karena kanker kepala dan leher - kanker bibir, mulut, laring, tenggorokan, dan kelenjar ludah - daripada rekan kulit putih mereka. Dari…
Mengapa orang kulit berwarna lebih mungkin meninggal… Keputihan memberikan petunjuk di acara yang mempromosikan pentingnya skrining kanker kulit, dia menawarkan tabir surya kepada semua orang yang mengunjungi kios atau stannya. Jacqueline berkata dia mendengar, "Tidak, kamu tidak…
Meta menutup sistem pengenalan wajah Facebook Menerima pembaruan Facebook Inc gratisKami akan mengirimi Anda myFT Daily Digest pembulatan email up berita Facebook Inc terbaru setiap pagi.Meta akan menutup sistem pengenalan wajah Facebook dan menghapus data yang…
Pertukaran Crypto Korea Selatan Melarang Alamat IP… Para ahli mencatat bahwa keyakinan bahwa Rusia dapat menggunakan mata uang kripto untuk menghindari sanksi mungkin salah karena lonjakan harga Bitcoin tidak dapat dikaitkan dengan orang Rusia yang membeli lebih…
Ras dan keuangan: perangkap pinjaman mahasiswa Terima pembaruan masyarakat AS gratisKami akan mengirimkan email pembulatan myFT Daily Digest up berita masyarakat AS terbaru setiap pagi. Ini adalah yang kedua dari serangkaian artikel yang membahas ras dan…
Apakah keringat dan keringat meningkatkan risiko… Jika Anda berkulit hitam, risiko Anda terkena kanker kepala dan leher — yang terdiri dari kanker bibir, mulut, kotak suara, tenggorokan, dan kelenjar ludah — dua kali lebih tinggi dibandingkan…
Nasihat dokter kulit untuk wanita kulit berwarna Kita semua harus mencintai kulit tempat kita hidup. Meskipun banyak wanita memiliki tujuan yang sama dalam hal perawatan kulit—mulai dari menemukan pelembap yang tepat hingga menangani kondisi kulit yang umum—wanita…
Ketika Stigma Membunuh - Kesehatan Wanita Juli Tempatkan diri Anda. Pada 14 Februari 1995, Resistensi Antimikroba (AMR):. Berencana untuk keluar dari hidupnya hari itu, dia menelepon bibinya Spanky untuk terakhir kalinya, seorang kerabat tiga tahun lebih…
Mengapa agen California menggugat Tesla Pekerja kulit hitam di pabrik Tesla Fremont, California menjadi sasaran penghinaan rasial dan didiskriminasi dalam penugasan kerja, gaji, dan promosi, pengaduan yang diajukan oleh badan pengatur California pada Rabu (9…
percakapan dengan dr. Octavia Cannon tentang… Meskipun menopause adalah bagian normal dari penuaan, banyak wanita merasa tidak siap untuk perubahan fisik dan mental yang datang dengan tahap kehidupan ini. Bagi banyak wanita kulit berwarna, transisi ke…
Apa pengaruh eksim terhadap kesehatan seksual? Maria Woodson, Seks yang Baik 30 tahun dari Los Angeles, menderita eksim (juga dikenal sebagai dermatitis atopik) sejak dia berusia 20 tahun. “Saya tidak bercanda, tangan dan leher saya terlihat…
Rahasia Wajah Putih Berseri: Tips Alami untuk Kulit… Hai semuanya! Siapa yang di sini ingin memiliki kulit putih alami yang sehat dan cerah? Naik Pangkat PNS ya? Kulit putih alami tidak hanya menjadi dambaan wanita, tetapi juga pria.…
Trauma masa kecil dapat menyebabkan rasa sakit kronis Mengapa wanita kulit 8 tahun, dia mengalami lebih banyak trauma daripada yang dialami banyak orang dalam hidup mereka. Beberapa anggota keluarganya menderita penyakit mental, dan dia sering menyaksikan kekerasan dalam…
Mengapa keragaman dalam uji klinis itu penting Dengan menyakiti orang kulit berwarna dan wanita lebih dari kelompok lain, pandemi Covid-19 telah mengungkap kenyataan pahit: Faktor-faktor seperti jenis kelamin, ras, dan pendapatan dapat sangat memengaruhi akses ke layanan…
Melanoma saya dikesampingkan dari folikel rambut… Seperti yang diceritakan kepada Nicole Audrey SpectorKetika saya pertama kali melihat benjolan di garis bikini saya, naluri saya mengatakan ada yang tidak beres, jadi saya segera membuat janji dengan dokter.…