Gerakan untuk meminta pertanggungjawaban AI mendapatkan lebih banyak tenaga

The movement to hold AI accountable gains more steam

Algoritma memainkan peran yang berkembang dalam kehidupan kita, bahkan karena kekurangan mereka menjadi lebih jelas: seorang pria Michigan yang dituduh melakukan penipuan harus mengajukan kebangkrutan; alat penyaringan otomatis secara tidak proporsional merugikan orang kulit berwarna yang ingin membeli rumah atau menyewa apartemen; Pengguna Facebook kulit hitam mengalami lebih banyak pelecehan daripada pengguna kulit putih. Sistem otomatis lainnya telah menilai guru, siswa, dan menandai orang berkulit gelap lebih sering karena menyontek saat ujian.

Sekarang, upaya sedang dilakukan untuk lebih memahami caranya AI bekerja dan meminta pertanggungjawaban pengguna. Dewan Kota New York bulan lalu mengadopsi undang-undang yang mewajibkan audit algoritma yang digunakan oleh pemberi kerja dalam perekrutan atau promosi. Undang-undang, yang pertama dari jenisnya di negara ini, mengharuskan pengusaha untuk membawa orang luar untuk menilai apakah suatu algoritme menunjukkan bias berdasarkan jenis kelamin, ras, atau etnis. Pengusaha juga harus memberi tahu pelamar kerja yang tinggal di New York ketika kecerdasan buatan berperan dalam memutuskan siapa yang akan dipekerjakan atau dipromosikan.

Di Washington, DC, anggota Kongres sedang menyusun RUU yang akan mengharuskan bisnis untuk mengevaluasi sistem pengambilan keputusan otomatis yang digunakan di berbagai bidang seperti perawatan kesehatan, perumahan, pekerjaan, atau pendidikan, dan melaporkan temuannya ke Komisi Perdagangan Federal; tiga dari lima anggota FTC mendukung regulasi algoritma yang lebih kuat. Bill of Rights AI yang diusulkan bulan lalu oleh Gedung Putih menyerukan pengungkapan ketika AI membuat keputusan yang berdampak pada hak-hak sipil seseorang, dan dikatakan bahwa sistem AI harus “diaudit dengan hati-hati” untuk akurasi dan bias, antara lain.

Di tempat lain, anggota parlemen Uni Eropa sedang mempertimbangkan undang-undang yang mewajibkan pemeriksaan AI yang dianggap berisiko tinggi dan membuat daftar publik untuk sistem berisiko tinggi. Negara-negara termasuk China, Kanada, Jerman, dan Inggris juga telah mengambil langkah-langkah untuk mengatur AI dalam beberapa tahun terakhir.

Julia Stoyanovich, seorang profesor di Universitas New York yang bertugas di Gugus Tugas Sistem Keputusan Otomatis Kota New York, mengatakan bahwa dia dan para siswa baru-baru ini memeriksa alat perekrutan dan menemukan bahwa alat itu memberi nilai kepribadian yang berbeda kepada orang-orang berdasarkan program perangkat lunak yang mereka gunakan untuk membuat resume mereka. Studi lain menemukan bahwa algoritme perekrutan menyukai pelamar berdasarkan di mana mereka pergi ke sekolah, aksen mereka, apakah mereka memakai kacamata, atau apakah ada rak buku di latar belakang.

Stoyanovich mendukung persyaratan pengungkapan dalam undang-undang Kota New York, tetapi dia mengatakan persyaratan audit cacat karena hanya berlaku untuk diskriminasi berdasarkan jenis kelamin atau ras. Dia mengatakan algoritme yang menilai orang berdasarkan font dalam resume mereka akan diterima di bawah hukum karena tidak mendiskriminasi atas dasar itu.

“Beberapa alat-alat ini benar-benar tidak masuk akal,” katanya. “Ini adalah hal-hal yang benar-benar harus kita ketahui sebagai anggota masyarakat dan sebagai manusia. Kita semua akan melamar pekerjaan di beberapa titik.”

Beberapa pendukung pengawasan yang lebih ketat mendukung audit wajib atas algoritma yang serupa dengan audit keuangan perusahaan. Lainnya lebih suka “penilaian dampak” mirip dengan laporan dampak lingkungan. Kedua kelompok setuju bahwa lapangan sangat membutuhkan standar tentang bagaimana tinjauan tersebut harus dilakukan dan apa yang harus mereka sertakan. Tanpa standar, bisnis dapat terlibat dalam “pencucian etika” dengan mengatur audit yang menguntungkan. Para pendukung mengatakan bahwa tinjauan tidak akan menyelesaikan semua masalah yang terkait dengan algoritme, tetapi mereka akan membantu membuat pembuat dan pengguna AI bertanggung jawab secara hukum.

Laporan yang akan datang oleh Algorithmic Justice League (AJL), sebuah lembaga nonprofit swasta, merekomendasikan untuk mewajibkan pengungkapan saat model AI digunakan dan membuat repositori publik untuk insiden di mana AI menyebabkan kerugian. Repositori dapat membantu auditor menemukan potensi masalah dengan algoritme dan membantu regulator menyelidiki atau mendenda pelanggar berulang. Salah satu pendiri AJL, Joy Buolamwini, ikut menulis audit berpengaruh tahun 2018 yang menemukan algoritme pengenalan wajah bekerja paling baik pada pria kulit putih dan terburuk pada wanita dengan kulit gelap.

Baca selengkapnya

Rekomendasi:

Melanoma 101 - Faktor Risiko, Diagnosis, Tahapan,… Elizabeth Liotta, MDmelakukan tinjauan medis terhadap dokumen ini Kulit Anda adalah organ terbesar di tubuh Anda, jadi masuk akal jika kanker kulit adalah jenis kanker yang paling umum. Tapi tahukah…
Anggota Kongres Kentucky yang Kontroversial… Topline Rep. Thomas Massie (R-Ky.) mentweet foto Natal keluarganya pada hari Sabtu di mana mereka semua memegang senjata dan tersenyum di depan pohon Natal, dengan judul: “Selamat Natal! hal. Santa,…
WhatsApp mulai menawarkan transfer uang Novi ke… Kembali pada bulan Oktober, Facebook (sekarang Meta) meluncurkan uji coba kecil dompet cryptocurrency Novi di AS dan Guatemala. Penguji percontohan telah dapat saling mengirim pembayaran pribadi melalui layanan sejak saat…
Melanoma saya dikesampingkan dari folikel rambut… Seperti yang diceritakan kepada Nicole Audrey SpectorKetika saya pertama kali melihat benjolan di garis bikini saya, naluri saya mengatakan ada yang tidak beres, jadi saya segera membuat janji dengan dokter.…
Bertanggung jawab atas diagnosis kanker payudara… Kanker payudara adalah jenis kanker yang paling umum di kalangan wanita, selain kanker kulit - ini berarti Anda mungkin mengenal seseorang yang pernah terkena kanker payudara.Meskipun diagnosis kanker dianggap menakutkan,…
Video Quick Take: James Markarian tentang… Todd Pruzan, HBR Selamat datang di Pengambilan Cepat Video HBR. Keluarnya Australia yang, Menteri keuangan Turki dan proyek khusus di Harvard Business Review. Pandemi global telah mempercepat kebutuhan perusahaan perangkat…
Tim pemasaran meninjau kembali kesesuaian merek di… Merek dan orang ingin tahu bahwa aplikasi media sosial adalah tempat yang aman untuk terhubung, bebas dari paparan konten berbahaya. Kesesuaian merek menggambarkan praktik menentukan toleransi merek tertentu terhadap iklan…
CEO Microsoft Memiliki Strategi Media Sosial Paling… Facebook memiliki hampir 3 miliar pengguna aktif. Itu mengesankan, di permukaan (tidak ada permainan kata-kata). Faktanya, mereka memiliki begitu banyak pengguna sehingga raksasa media sosial kadang-kadang disebut sebagai "di mana-mana."Inilah…
Mengapa agen California menggugat Tesla Pekerja kulit hitam di pabrik Tesla Fremont, California menjadi sasaran penghinaan rasial dan didiskriminasi dalam penugasan kerja, gaji, dan promosi, pengaduan yang diajukan oleh badan pengatur California pada Rabu (9…
Selama Bertahun-tahun, Investor Telah Mengabaikan… Harlem Capital telah menetapkan tujuan yang sangat berani untuk perusahaan modal ventura: Berinvestasi pada 1.000 pendiri yang beragam selama 20 tahun ke depan. Mitra pengelola Henri Pierre-Jacques sangat menyadari bahwa…
Apakah Kebijakan Keuangan Anda Cukup Kuat untuk… Ketika setiap sen berharga, mendapatkan kendali atas keuangan bisnis kecil Anda adalah perhatian utama. Perusahaan kecil harus menjalankan kapal yang ketat, sehingga proses keuangan harus efisien, aman, dan terkendali untuk…
Pemohon hipotek kulit hitam ditolak 84% lebih sering… SEATTLE, Jan. 13, 2022 /PRNewswire/ -- Tingkat kepemilikan rumah kulit hitam yang meningkat sebelum pandemi mulai turun lagi, didorong oleh kesenjangan persetujuan hipotek yang melebar antara pelamar kulit hitam dan…
Bagaimana Rasanya Menjadi Wanita Berwarna dalam Arsitektur Para peneliti yang mempelajari bias dalam industri arsitektur menemukan bahwa hal itu sama dengan industri lain yang telah mereka pelajari, termasuk hukum, sains, dan teknik. Mereka menemukan bahwa hanya seperempat…
Beberapa Zat Yang Terkandung Dalam Skincare Memiliki kulit wajah yang halus, lembab, dan cerah adalah impian semua orang, terutama wanita. Oleh karena itu banyak upaya dilakukan untuk mewujudkannya, salah satunya secara rutin menggunakan perawatan kulit atau…
Mengapa wanita kulit berwarna memiliki hasil yang… Pada tahun 2013, Catrice Nolen, seorang wanita kulit hitam berusia 47 tahun di Virginia Utara, memperhatikan bahwa salah satu payudaranya terasa bengkak. Dia menelepon dokternya dan dikirim untuk mammogram. Hasilnya…
percakapan dengan dr. Octavia Cannon tentang… Meskipun menopause adalah bagian normal dari penuaan, banyak wanita merasa tidak siap untuk perubahan fisik dan mental yang datang dengan tahap kehidupan ini. Bagi banyak wanita kulit berwarna, transisi ke…
Cuomo Dihapus Lagi: Mantan Gubernur Tidak Akan… Topline Mantan Gubernur New York Andrew Cuomo yang dipermalukan tidak akan menghadapi tuntutan di Westchester County menyusul tuduhan bahwa dia melecehkan dua wanita, untuk kedua kalinya dalam waktu kurang dari…
Bisakah tinggal di Amerika Serikat meningkatkan… Jika Anda adalah wanita yang melahirkan di Amerika Serikat, kemungkinan besar Anda akan mengalami kelahiran prematur dibandingkan wanita di sebagian besar negara maju. Jika Anda berkulit hitam atau penduduk asli…
'Mereka mengecualikan saya': Pengakuan… Perhitungan media membawa gelombang keragaman internal baru, inisiatif kesetaraan dan inklusi dan evaluasi diri perusahaan tentang perwakilan ras dan etnis staf di sebagian besar organisasi media besar. Tetapi tanpa dukungan…
Kesepakatan TikTok-Oracle akan menetapkan dua… Sam Whitney | Getty ImagesPada bulan Agustus 2020, Presiden Donald Trump menjatuhkan bom perintah eksekutif yang melarang TikTok di Amerika Serikat. Sejak saat itu, saat TikTok bersaing dengan perusahaan Teknologi…
Biaya bias rasial dalam perawatan kebidanan dan ginekologi Seperti apa bias rasial dalam kesehatan ginekologi dan rahim? Tinjauan komprehensif yang memeriksa berbagai bidang kesehatan reproduksi menemukan perbedaan ras dan etnis yang menyebabkan hasil yang lebih buruk bagi wanita…
Cara Screenshot di Laptop: Panduan Lengkap untuk… Pengantar Cara screenshot di laptop merupakan salah satu keterampilan dasar yang sangat berguna dalam berbagai situasi. Baik untuk keperluan kerja, pendidikan, atau sekadar berbagi informasi, mengetahui cara mengambil tangkapan layar…
Bagaimana orang India di internet memandang dukungan… Sementara banyak komentator Barat mengkritik pemerintah India karena tidak menentang invasi Rusia ke Ukraina, banyak orang India di internet telah menyatakan dukungannya untuk posisi New Delhi. Mereka telah menawarkan berbagai…
Alat moderasi konten untuk menghentikan ekstremisme Perusahaan teknologi lebih aktif dari sebelumnya dalam mencoba mencegah teroris, supremasi kulit putih, ahli teori konspirasi, dan individu, organisasi, dan gerakan kebencian lainnya untuk mengeksploitasi platform mereka, tetapi tekanan pemerintah…
Mengapa orang kulit berwarna lebih mungkin meninggal… Keputihan memberikan petunjuk di acara yang mempromosikan pentingnya skrining kanker kulit, dia menawarkan tabir surya kepada semua orang yang mengunjungi kios atau stannya. Jacqueline berkata dia mendengar, "Tidak, kamu tidak…
Bagaimana hot flash mempengaruhi tidur? Apa itu hot flashes? Hot flashes (juga disebut keringat malam saat terjadi di malam hari) melibatkan peningkatan suhu tubuh secara tiba-tiba dan dapat terjadi dengan: Aliran air - drainase berkeringat…
Hertz Hanya Mengakui Itu Mengajukan 3.365 Laporan… Hertz mengajukan sekitar 3.365 laporan polisi setiap tahun yang menuduh pelanggan melakukan pencurian mobil setelah mereka menyewa mobilnya. Angka itu muncul pada hari Kamis, setelah perusahaan rental mobil kehilangan mosi…
Kreator kulit hitam menandatangani surat terbuka… Sekelompok pembuat konten Black Twitch telah merilis surat terbuka yang menuntut agar platform streaming itu berbuat lebih banyak untuk melindungi streamer minoritas dari serangan kebencian dan pelecehan. Surat itu ditulis…
Saya salah berpikir bahwa ras membuat saya kebal… Sindrom kelelahan kronis: Saya dibesarkan dalam keluarga di mana tabir surya tidak dibicarakan dan jarang digunakan. Justru sebaliknya: kami menyiram diri kami dengan minyak berjemur dan dipanggang di bawah sinar…
Nasihat dokter kulit untuk wanita kulit berwarna Kita semua harus mencintai kulit tempat kita hidup. Meskipun banyak wanita memiliki tujuan yang sama dalam hal perawatan kulit—mulai dari menemukan pelembap yang tepat hingga menangani kondisi kulit yang umum—wanita…