Gerakan untuk meminta pertanggungjawaban AI mendapatkan lebih banyak tenaga

The movement to hold AI accountable gains more steam

Algoritma memainkan peran yang berkembang dalam kehidupan kita, bahkan karena kekurangan mereka menjadi lebih jelas: seorang pria Michigan yang dituduh melakukan penipuan harus mengajukan kebangkrutan; alat penyaringan otomatis secara tidak proporsional merugikan orang kulit berwarna yang ingin membeli rumah atau menyewa apartemen; Pengguna Facebook kulit hitam mengalami lebih banyak pelecehan daripada pengguna kulit putih. Sistem otomatis lainnya telah menilai guru, siswa, dan menandai orang berkulit gelap lebih sering karena menyontek saat ujian.

Sekarang, upaya sedang dilakukan untuk lebih memahami caranya AI bekerja dan meminta pertanggungjawaban pengguna. Dewan Kota New York bulan lalu mengadopsi undang-undang yang mewajibkan audit algoritma yang digunakan oleh pemberi kerja dalam perekrutan atau promosi. Undang-undang, yang pertama dari jenisnya di negara ini, mengharuskan pengusaha untuk membawa orang luar untuk menilai apakah suatu algoritme menunjukkan bias berdasarkan jenis kelamin, ras, atau etnis. Pengusaha juga harus memberi tahu pelamar kerja yang tinggal di New York ketika kecerdasan buatan berperan dalam memutuskan siapa yang akan dipekerjakan atau dipromosikan.

Di Washington, DC, anggota Kongres sedang menyusun RUU yang akan mengharuskan bisnis untuk mengevaluasi sistem pengambilan keputusan otomatis yang digunakan di berbagai bidang seperti perawatan kesehatan, perumahan, pekerjaan, atau pendidikan, dan melaporkan temuannya ke Komisi Perdagangan Federal; tiga dari lima anggota FTC mendukung regulasi algoritma yang lebih kuat. Bill of Rights AI yang diusulkan bulan lalu oleh Gedung Putih menyerukan pengungkapan ketika AI membuat keputusan yang berdampak pada hak-hak sipil seseorang, dan dikatakan bahwa sistem AI harus “diaudit dengan hati-hati” untuk akurasi dan bias, antara lain.

Di tempat lain, anggota parlemen Uni Eropa sedang mempertimbangkan undang-undang yang mewajibkan pemeriksaan AI yang dianggap berisiko tinggi dan membuat daftar publik untuk sistem berisiko tinggi. Negara-negara termasuk China, Kanada, Jerman, dan Inggris juga telah mengambil langkah-langkah untuk mengatur AI dalam beberapa tahun terakhir.

Julia Stoyanovich, seorang profesor di Universitas New York yang bertugas di Gugus Tugas Sistem Keputusan Otomatis Kota New York, mengatakan bahwa dia dan para siswa baru-baru ini memeriksa alat perekrutan dan menemukan bahwa alat itu memberi nilai kepribadian yang berbeda kepada orang-orang berdasarkan program perangkat lunak yang mereka gunakan untuk membuat resume mereka. Studi lain menemukan bahwa algoritme perekrutan menyukai pelamar berdasarkan di mana mereka pergi ke sekolah, aksen mereka, apakah mereka memakai kacamata, atau apakah ada rak buku di latar belakang.

Stoyanovich mendukung persyaratan pengungkapan dalam undang-undang Kota New York, tetapi dia mengatakan persyaratan audit cacat karena hanya berlaku untuk diskriminasi berdasarkan jenis kelamin atau ras. Dia mengatakan algoritme yang menilai orang berdasarkan font dalam resume mereka akan diterima di bawah hukum karena tidak mendiskriminasi atas dasar itu.

“Beberapa alat-alat ini benar-benar tidak masuk akal,” katanya. “Ini adalah hal-hal yang benar-benar harus kita ketahui sebagai anggota masyarakat dan sebagai manusia. Kita semua akan melamar pekerjaan di beberapa titik.”

Beberapa pendukung pengawasan yang lebih ketat mendukung audit wajib atas algoritma yang serupa dengan audit keuangan perusahaan. Lainnya lebih suka “penilaian dampak” mirip dengan laporan dampak lingkungan. Kedua kelompok setuju bahwa lapangan sangat membutuhkan standar tentang bagaimana tinjauan tersebut harus dilakukan dan apa yang harus mereka sertakan. Tanpa standar, bisnis dapat terlibat dalam “pencucian etika” dengan mengatur audit yang menguntungkan. Para pendukung mengatakan bahwa tinjauan tidak akan menyelesaikan semua masalah yang terkait dengan algoritme, tetapi mereka akan membantu membuat pembuat dan pengguna AI bertanggung jawab secara hukum.

Laporan yang akan datang oleh Algorithmic Justice League (AJL), sebuah lembaga nonprofit swasta, merekomendasikan untuk mewajibkan pengungkapan saat model AI digunakan dan membuat repositori publik untuk insiden di mana AI menyebabkan kerugian. Repositori dapat membantu auditor menemukan potensi masalah dengan algoritme dan membantu regulator menyelidiki atau mendenda pelanggar berulang. Salah satu pendiri AJL, Joy Buolamwini, ikut menulis audit berpengaruh tahun 2018 yang menemukan algoritme pengenalan wajah bekerja paling baik pada pria kulit putih dan terburuk pada wanita dengan kulit gelap.

Baca selengkapnya

Rekomendasi:

Apa pengaruh eksim terhadap kesehatan seksual? Maria Woodson, seorang pengusaha wanita berusia 30 tahun dari Los Angeles, menderita eksim (juga dikenal sebagai dermatitis atopik) sejak dia berusia 20 tahun. “Saya tidak bercanda, tangan dan leher saya…
Selama Bertahun-tahun, Investor Telah Mengabaikan… Harlem Capital telah menetapkan tujuan yang sangat berani untuk perusahaan modal ventura: Berinvestasi pada 1.000 pendiri yang beragam selama 20 tahun ke depan. Mitra pengelola Henri Pierre-Jacques sangat menyadari bahwa…
Wanita kulit hitam memiliki banyak risiko terhadap… Suhu melonjak di atas 80 derajat ketika anak-anak saya dan saya mengikuti jalan yang ditandai antara tempat tinggal bersejarah di pinggiran pusat kota hanya beberapa menit dari rumah kami. Napas…
Biaya bias rasial dalam perawatan kebidanan dan ginekologi Seperti apa bias rasial dalam kesehatan ginekologi dan rahim? Tinjauan komprehensif yang memeriksa berbagai bidang kesehatan reproduksi menemukan perbedaan ras dan etnis yang menyebabkan hasil yang lebih buruk bagi wanita…
Kota New York Akan Mengakhiri Ribuan Pekerja Kota… Topline New York City diperkirakan akan memecat hingga 4.000 pegawai kota pada hari Jumat karena mereka menolak untuk mematuhi mandat vaksin pemerintah kota, menyusul melalui persyaratan vaksin setelah mengundang kontroversi…
Pengadilan Rusia menyatakan Meta bersalah atas… Seorang hakim di pengadilan Moskow mengatakan pada hari Senin bahwa Instagram dan Facebook bersalah atas aktivitas "ekstremis", memperkuat larangan pada kedua platform yang mulai berlaku awal bulan ini, dilaporkan Reuters.…
Rahasia Kulit Putih Alami: Temukan Kulit Cerah dan… Mendapatkan Kulit Putih Alami tanpa Efek Samping Di tengah tuntutan kecantikan modern, memiliki kulit putih alami menjadi salah satu dambaan banyak orang. Kulit putih seringkali dianggap sebagai simbol kecantikan dan…
TikTok menghadapi penyelidikan tentang dampaknya… Koalisi jaksa agung negara bagian dari California, Florida, Kentucky, dan banyak lagi sedang menyelidiki TikTok untuk efek potensialnya pada kesehatan mental dan fisik anak muda (melalui CNBC). Kelompok AG sedang…
Hertz Hanya Mengakui Itu Mengajukan 3.365 Laporan… Hertz mengajukan sekitar 3.365 laporan polisi setiap tahun yang menuduh pelanggan melakukan pencurian mobil setelah mereka menyewa mobilnya. Angka itu muncul pada hari Kamis, setelah perusahaan rental mobil kehilangan mosi…
RUU Medali Emas Kongres O'Ree akan dipilih minggu depan Langkah berikutnya Willie O'Ree untuk dianugerahi Medali Emas Kongres bisa datang minggu depan, sekitar waktu yang sama No. 22-nya akan dipensiunkan oleh Boston Bruins.Dewan Perwakilan Rakyat AS dijadwalkan untuk memberikan…
Kulit Wajah Putih Berkilau, Bukti Cinta Diri yang… Tips untuk Kulit Wajah Putih? Ada di Sini! Setiap orang tentunya menginginkan wajah yang putih dan bersih. Namun, berbagai faktor seperti paparan sinar matahari, polusi udara, dan stres dapat membuat…
Ketika Stigma Membunuh - Kesehatan Wanita Juli Bulan kesadaran kesehatan mental untuk minoritas nasional. Pada 14 Februari 1995, Fonda Bryant siap mati. Berencana untuk keluar dari hidupnya hari itu, dia menelepon bibinya Spanky untuk terakhir kalinya,…
RUU NYC melarang alat perekrutan AI yang gagal dalam… Kota New York dapat segera mengurangi kemungkinan bias AI di pasar kerja. Associated Press mencatat dewan kota telah mengesahkan undang-undang yang melarang sistem perekrutan AI yang tidak lulus audit tahunan…
Bisakah tinggal di Amerika Serikat meningkatkan… Jika Anda adalah wanita yang melahirkan di Amerika Serikat, kemungkinan besar Anda akan mengalami kelahiran prematur dibandingkan wanita di sebagian besar negara maju. Jika Anda berkulit hitam atau penduduk asli…
Bagaimana audit SEO teknis dapat menguntungkan situs… Setiap orang mendukung perusahaan yang sukses. Tetapi strategi pemasaran digital yang berbeda akan bekerja dengan baik untuk bisnis yang berbeda. Performa SEO itu penting dan di situlah audit SEO teknis…
Wanita kulit hitam sering menderita dalam diam… Seperti yang diceritakan oleh Shannon Shelton Miller Sebelum tahun 2020, menopause adalah salah satu gaya hidup yang sama sekali tidak saya ketahui. Yang paling sering saya dengar dari ibu saya…
Instagram Memotong Ketergantungan pada Data… Meta, wajah baru Facebook, telah berjuang selama berbulan-bulan untuk mengembangkan strategi iklan yang tidak bergantung pada data pribadi pengguna setelah parade pertempuran hukum yang terus berlanjut. Setelah melompati lingkaran demi…
ABCDE deteksi melanoma 1 dari 40 wanita akan mengembangkan melanoma, jenis kanker kulit yang paling serius, dalam hidupnya. Apa itu melanoma? Melanoma adalah jenis kanker kulit yang dapat berkembang di mana saja di…
Bagaimana Mengerjakan Setiap Jenis Penjangkauan Pendapat yang dikemukakan oleh kontributor Entrepreneur adalah milik mereka sendiri. Penjangkauan adalah aspek bisnis yang sangat besar. Semua editor atau pemilik perusahaan mendapatkan beberapa bentuk email penjangkauan. Meskipun beberapa bidang…
Dokter kulit menjelaskan bahwa itu adalah mitos… Ditulis oleh Adewole S. Universitas Texas di AustinMelanoma adalah bentuk kanker kulit mematikan yang menyerang orang-orang dari setiap kelompok ras dan etnis. Faktor risiko yang paling terkait dengan perkembangan kanker…
RUU NYC melarang alat perekrutan AI yang gagal dalam… Kota New York dapat segera mengurangi kemungkinan bias AI di pasar kerja. Associated Press mencatat dewan kota telah mengesahkan undang-undang yang melarang sistem perekrutan AI yang tidak lulus audit tahunan…
Pertukaran Crypto Korea Selatan Melarang Alamat IP… Para ahli mencatat bahwa keyakinan bahwa Rusia dapat menggunakan mata uang kripto untuk menghindari sanksi mungkin salah karena lonjakan harga Bitcoin tidak dapat dikaitkan dengan orang Rusia yang membeli lebih…
Meta menutup sistem pengenalan wajah Facebook Menerima pembaruan Facebook Inc gratisKami akan mengirimi Anda myFT Daily Digest pembulatan email up berita Facebook Inc terbaru setiap pagi.Meta akan menutup sistem pengenalan wajah Facebook dan menghapus data yang…
Mengapa Kebutuhan Inovasi dalam Real Estat Komersial… Pendapat yang dikemukakan oleh kontributor Entrepreneur adalah milik mereka sendiri. Setiap pebisnis memahami bahwa inovasi sangat penting. Namun, dalam real estat komersial, prinsip ini terutama benar. Sejak awal 2020 ketika…
Solusi untuk kekurangan tenaga kerja: remaja? Bulan setelah laporan pertama tentang kekurangan tenaga kerja, bisnis merasakan dampaknya. Kurangnya pekerja telah memaksa bisnis untuk mengurangi jam kerja, membatasi layanan, dan bahkan menutup pintu mereka; bagi konsumen, hal…
Pemohon hipotek kulit hitam ditolak 84% lebih sering… SEATTLE, Jan. 13, 2022 /PRNewswire/ -- Tingkat kepemilikan rumah kulit hitam yang meningkat sebelum pandemi mulai turun lagi, didorong oleh kesenjangan persetujuan hipotek yang melebar antara pelamar kulit hitam dan…
Kesepakatan TikTok-Oracle akan menetapkan dua… Sam Whitney | Getty ImagesPada bulan Agustus 2020, Presiden Donald Trump menjatuhkan bom perintah eksekutif yang melarang TikTok di Amerika Serikat. Sejak saat itu, saat TikTok bersaing dengan perusahaan Teknologi…
Saya salah berpikir bahwa ras membuat saya kebal… Seperti yang diceritakan kepada Nicole Audrey SpectorSaya dibesarkan di rumah tangga di mana tabir surya jarang dibicarakan dan jarang digunakan. Faktanya, yang terjadi justru sebaliknya: Kami mandi dengan minyak tanning…
Rahasia Kulit Putih Mempesona: Tips Praktis untuk… Kulit putih sering dianggap sebagai salah satu standar kecantikan di Indonesia. Banyak orang berusaha keras untuk mendapatkan kulit putih, dengan berbagai macam cara. Namun, tahukah Anda bahwa ada cara alami…
Mengapa perawatan HIV tidak menjangkau mereka yang… Hydeia Broadbent tidak pernah tahu hidup tanpa HIV. HIV lahir pada tahun 1984, dan virus Broadbent berkembang menjadi Acquired Immunodeficiency Syndrome (AIDS), yang berarti jumlah sel T (sel darah putih…