Gerakan untuk meminta pertanggungjawaban AI mendapatkan lebih banyak tenaga

The movement to hold AI accountable gains more steam

Algoritma memainkan peran yang berkembang dalam kehidupan kita, bahkan karena kekurangan mereka menjadi lebih jelas: seorang pria Michigan yang dituduh melakukan penipuan harus mengajukan kebangkrutan; alat penyaringan otomatis secara tidak proporsional merugikan orang kulit berwarna yang ingin membeli rumah atau menyewa apartemen; Pengguna Facebook kulit hitam mengalami lebih banyak pelecehan daripada pengguna kulit putih. Sistem otomatis lainnya telah menilai guru, siswa, dan menandai orang berkulit gelap lebih sering karena menyontek saat ujian.

Sekarang, upaya sedang dilakukan untuk lebih memahami caranya AI bekerja dan meminta pertanggungjawaban pengguna. Dewan Kota New York bulan lalu mengadopsi undang-undang yang mewajibkan audit algoritma yang digunakan oleh pemberi kerja dalam perekrutan atau promosi. Undang-undang, yang pertama dari jenisnya di negara ini, mengharuskan pengusaha untuk membawa orang luar untuk menilai apakah suatu algoritme menunjukkan bias berdasarkan jenis kelamin, ras, atau etnis. Pengusaha juga harus memberi tahu pelamar kerja yang tinggal di New York ketika kecerdasan buatan berperan dalam memutuskan siapa yang akan dipekerjakan atau dipromosikan.

Di Washington, DC, anggota Kongres sedang menyusun RUU yang akan mengharuskan bisnis untuk mengevaluasi sistem pengambilan keputusan otomatis yang digunakan di berbagai bidang seperti perawatan kesehatan, perumahan, pekerjaan, atau pendidikan, dan melaporkan temuannya ke Komisi Perdagangan Federal; tiga dari lima anggota FTC mendukung regulasi algoritma yang lebih kuat. Bill of Rights AI yang diusulkan bulan lalu oleh Gedung Putih menyerukan pengungkapan ketika AI membuat keputusan yang berdampak pada hak-hak sipil seseorang, dan dikatakan bahwa sistem AI harus “diaudit dengan hati-hati” untuk akurasi dan bias, antara lain.

Di tempat lain, anggota parlemen Uni Eropa sedang mempertimbangkan undang-undang yang mewajibkan pemeriksaan AI yang dianggap berisiko tinggi dan membuat daftar publik untuk sistem berisiko tinggi. Negara-negara termasuk China, Kanada, Jerman, dan Inggris juga telah mengambil langkah-langkah untuk mengatur AI dalam beberapa tahun terakhir.

Julia Stoyanovich, seorang profesor di Universitas New York yang bertugas di Gugus Tugas Sistem Keputusan Otomatis Kota New York, mengatakan bahwa dia dan para siswa baru-baru ini memeriksa alat perekrutan dan menemukan bahwa alat itu memberi nilai kepribadian yang berbeda kepada orang-orang berdasarkan program perangkat lunak yang mereka gunakan untuk membuat resume mereka. Studi lain menemukan bahwa algoritme perekrutan menyukai pelamar berdasarkan di mana mereka pergi ke sekolah, aksen mereka, apakah mereka memakai kacamata, atau apakah ada rak buku di latar belakang.

Stoyanovich mendukung persyaratan pengungkapan dalam undang-undang Kota New York, tetapi dia mengatakan persyaratan audit cacat karena hanya berlaku untuk diskriminasi berdasarkan jenis kelamin atau ras. Dia mengatakan algoritme yang menilai orang berdasarkan font dalam resume mereka akan diterima di bawah hukum karena tidak mendiskriminasi atas dasar itu.

“Beberapa alat-alat ini benar-benar tidak masuk akal,” katanya. “Ini adalah hal-hal yang benar-benar harus kita ketahui sebagai anggota masyarakat dan sebagai manusia. Kita semua akan melamar pekerjaan di beberapa titik.”

Beberapa pendukung pengawasan yang lebih ketat mendukung audit wajib atas algoritma yang serupa dengan audit keuangan perusahaan. Lainnya lebih suka “penilaian dampak” mirip dengan laporan dampak lingkungan. Kedua kelompok setuju bahwa lapangan sangat membutuhkan standar tentang bagaimana tinjauan tersebut harus dilakukan dan apa yang harus mereka sertakan. Tanpa standar, bisnis dapat terlibat dalam “pencucian etika” dengan mengatur audit yang menguntungkan. Para pendukung mengatakan bahwa tinjauan tidak akan menyelesaikan semua masalah yang terkait dengan algoritme, tetapi mereka akan membantu membuat pembuat dan pengguna AI bertanggung jawab secara hukum.

Laporan yang akan datang oleh Algorithmic Justice League (AJL), sebuah lembaga nonprofit swasta, merekomendasikan untuk mewajibkan pengungkapan saat model AI digunakan dan membuat repositori publik untuk insiden di mana AI menyebabkan kerugian. Repositori dapat membantu auditor menemukan potensi masalah dengan algoritme dan membantu regulator menyelidiki atau mendenda pelanggar berulang. Salah satu pendiri AJL, Joy Buolamwini, ikut menulis audit berpengaruh tahun 2018 yang menemukan algoritme pengenalan wajah bekerja paling baik pada pria kulit putih dan terburuk pada wanita dengan kulit gelap.

Baca selengkapnya

Rekomendasi:

Apa yang Harus Dipelajari oleh Setiap Pemimpin… Bulan lalu, Jon Gruden mengundurkan diri sebagai pelatih kepala Las Vegas Raiders setelah serangkaian email meresahkan menjadi publik. Email yang berasal dari 2011 hingga 2018 ketika pelatih bekerja untuk ESPN,…
Kesepakatan TikTok-Oracle akan menetapkan dua… Sam Whitney | Getty ImagesPada bulan Agustus 2020, Presiden Donald Trump menjatuhkan bom perintah eksekutif yang melarang TikTok di Amerika Serikat. Sejak saat itu, saat TikTok bersaing dengan perusahaan Teknologi…
Saksi Pemakzulan Alexander Vindman Menuntut Donald… Topline Lt. Kol. Alexander Vindman, yang bersaksi melawan Presiden Donald Trump saat itu selama persidangan pemakzulan pertamanya, menggugat sekutu Trump termasuk Donald Trump, Jr., dan Rudy Giuliani di pengadilan federal…
Saya salah berpikir bahwa ras membuat saya kebal… Sindrom kelelahan kronis: Saya dibesarkan dalam keluarga di mana tabir surya tidak dibicarakan dan jarang digunakan. Justru sebaliknya: kami menyiram diri kami dengan minyak berjemur dan dipanggang di bawah sinar…
Ras dan keuangan: perangkap pinjaman mahasiswa Terima pembaruan masyarakat AS gratisKami akan mengirimkan email pembulatan myFT Daily Digest up berita masyarakat AS terbaru setiap pagi. Ini adalah yang kedua dari serangkaian artikel yang membahas ras dan…
Nasihat dokter kulit untuk wanita kulit berwarna Kita semua harus mencintai kulit tempat kita hidup. Meskipun banyak wanita memiliki tujuan yang sama dalam hal perawatan kulit—mulai dari menemukan pelembap yang tepat hingga menangani kondisi kulit yang umum—wanita…
Hukum Campbell: Sisi gelap fiksasi metrik Salah satu pepatah salah kutip dalam bisnis adalah "jika Anda tidak dapat mengukurnya, Anda tidak dapat mengelolanya". Pernyataan ini (dan variasinya) sering dimaksudkan untuk mengatakan bahwa, untuk meningkatkan sesuatu, kita…
Instagram Memotong Ketergantungan pada Data… Meta, wajah baru Facebook, telah berjuang selama berbulan-bulan untuk mengembangkan strategi iklan yang tidak bergantung pada data pribadi pengguna setelah parade pertempuran hukum yang terus berlanjut. Setelah melompati lingkaran demi…
Kreator kulit hitam menandatangani surat terbuka… Sekelompok pembuat konten Black Twitch telah merilis surat terbuka yang menuntut agar platform streaming itu berbuat lebih banyak untuk melindungi streamer minoritas dari serangan kebencian dan pelecehan. Surat itu ditulis…
Alat moderasi konten untuk menghentikan ekstremisme Perusahaan teknologi lebih aktif dari sebelumnya dalam mencoba mencegah teroris, supremasi kulit putih, ahli teori konspirasi, dan individu, organisasi, dan gerakan kebencian lainnya untuk mengeksploitasi platform mereka, tetapi tekanan pemerintah…
Korban BitConnect dapat melanjutkan dengan gugatan… Beranda » Bisnis » Korban BitConnect dapat melanjutkan dengan gugatan vs promotor penipuan, aturan pengadilan banding Gugatan class action terhadap promotor penipuan mata uang digital BitConnect dapat dilanjutkan, pengadilan banding…
Hertz Hanya Mengakui Itu Mengajukan 3.365 Laporan… Hertz mengajukan sekitar 3.365 laporan polisi setiap tahun yang menuduh pelanggan melakukan pencurian mobil setelah mereka menyewa mobilnya. Angka itu muncul pada hari Kamis, setelah perusahaan rental mobil kehilangan mosi…
Mencapai Kesejahteraan Keadilan Membutuhkan Dukungan… JaLisa Johnson, Pendiri 360Spaces V-ETS Investasi teknologi kesehatan terus melonjak, dengan lebih dari $30 miliar diinvestasikan pada tahun 2021. Meskipun pandemi dan pembunuhan George Floyd telah mengantarkan peningkatan yang signifikan…
Bagaimana orang India di internet memandang dukungan… Sementara banyak komentator Barat mengkritik pemerintah India karena tidak menentang invasi Rusia ke Ukraina, banyak orang India di internet telah menyatakan dukungannya untuk posisi New Delhi. Mereka telah menawarkan berbagai…
DEI Tidak Cukup; Perusahaan Membutuhkan Kepemimpinan… 15 Maret 2022 Selama beberapa tahun terakhir di Amerika Serikat, kita telah melihat beberapa contoh mengerikan dari rasisme merebut kesadaran publik. Di tengah semua tragedi ini – dan protes yang…
Bagaimana Rasanya Menjadi Wanita Berwarna dalam Arsitektur Para peneliti yang mempelajari bias dalam industri arsitektur menemukan bahwa hal itu sama dengan industri lain yang telah mereka pelajari, termasuk hukum, sains, dan teknik. Mereka menemukan bahwa hanya seperempat…
Rahasia Wajah Putih Berseri: Tips Alami untuk Kulit… Hai semuanya! Siapa yang di sini ingin memiliki kulit putih alami yang sehat dan cerah? Naik Pangkat PNS ya? Kulit putih alami tidak hanya menjadi dambaan wanita, tetapi juga pria.…
Beberapa Zat Yang Terkandung Dalam Skincare Memiliki kulit wajah yang halus, lembab, dan cerah adalah impian semua orang, terutama wanita. Oleh karena itu banyak upaya dilakukan untuk mewujudkannya, salah satunya secara rutin menggunakan perawatan kulit atau…
ABCDE deteksi melanoma 1 dari 40 wanita akan mengembangkan melanoma, jenis kanker kulit yang paling serius, dalam hidupnya. Apa itu melanoma? Melanoma adalah jenis kanker kulit yang dapat berkembang di mana saja di…
Tim pemasaran meninjau kembali kesesuaian merek di… Merek dan orang ingin tahu bahwa aplikasi media sosial adalah tempat yang aman untuk terhubung, bebas dari paparan konten berbahaya. Kesesuaian merek menggambarkan praktik menentukan toleransi merek tertentu terhadap iklan…
Solusi untuk kekurangan tenaga kerja: remaja? Bulan setelah laporan pertama tentang kekurangan tenaga kerja, bisnis merasakan dampaknya. Kurangnya pekerja telah memaksa bisnis untuk mengurangi jam kerja, membatasi layanan, dan bahkan menutup pintu mereka; bagi konsumen, hal…
Hidup Dengan Lupus - Wanita Sehat Marisa Mays, 40, memiliki masalah kesehatan sejak pertengahan 20-an. Dia mulai dengan kehamilan pertamanya, ketika dia mengalami komplikasi dari fibroid, ditidurkan dan melahirkan prematur. "Sejak itu, hidup saya tidak benar-benar…
Mengapa orang kulit berwarna lebih mungkin meninggal… Keputihan memberikan petunjuk di acara yang mempromosikan pentingnya skrining kanker kulit, dia menawarkan tabir surya kepada semua orang yang mengunjungi kios atau stannya. Jacqueline berkata dia mendengar, "Tidak, kamu tidak…
Cuomo Dihapus Lagi: Mantan Gubernur Tidak Akan… Topline Mantan Gubernur New York Andrew Cuomo yang dipermalukan tidak akan menghadapi tuntutan di Westchester County menyusul tuduhan bahwa dia melecehkan dua wanita, untuk kedua kalinya dalam waktu kurang dari…
Balasan Otomatis 'Saya Sedang Berlibur' Ini… Scrooge dengan terkenal mengatakan bahwa Natal adalah "alasan yang buruk untuk mengambil saku pria setiap tanggal dua puluh lima Desember!" Sekarang, jika Crachit hanya meminta agar dia tidak mengerjakan Natal,…
Ras dan lokasi geografis dapat meningkatkan risiko… Orang kulit hitam Amerika 50 persen lebih mungkin meninggal karena kanker kepala dan leher - kanker bibir, mulut, laring, tenggorokan, dan kelenjar ludah - daripada rekan kulit putih mereka. Dari…
Dokter kulit menjelaskan bahwa itu adalah mitos… Ditulis oleh Adewole S. Universitas Texas di AustinMelanoma adalah bentuk kanker kulit mematikan yang menyerang orang-orang dari setiap kelompok ras dan etnis. Faktor risiko yang paling terkait dengan perkembangan kanker…
Ujian Sejarah Indonesia: Tantangan Masa Lalu,… Soal Ulangan Sejarah Indonesia Kelas 11 Semester 2: Kunci Sukses untuk Raih Nilai Bagus! Apakah Anda khawatir dengan soal ulangan sejarah Indonesia kelas 11 semester 2 yang akan datang? Jangan…
Keragaman dalam uji klinis kanker Pada Juli 2021, Latoya Bolds-Johnson, seorang asisten dokter di wilayah Washington, D.C., didiagnosis menderita kanker payudara triple-negatif stadium III (CMNT). Karena riwayat medisnya, Latoya mengetahui sejak awal perawatannya bahwa dia…
Di mana membeli CPU 'Alder Lake' generasi… Gordon Mah Ung Pengecer mulai mengungkapkan harga jalanan dan ketersediaan untuk prosesor Intel Core "Alder Lake" generasi ke-12 yang baru, dan meskipun tidak aneh, mereka 'tidak terlalu cantik baik. CPU…