Gerakan untuk meminta pertanggungjawaban AI mendapatkan lebih banyak tenaga
Algoritma memainkan peran yang berkembang dalam kehidupan kita, bahkan karena kekurangan mereka menjadi lebih jelas: seorang pria Michigan yang dituduh melakukan penipuan harus mengajukan kebangkrutan; alat penyaringan otomatis secara tidak proporsional merugikan orang kulit berwarna yang ingin membeli rumah atau menyewa apartemen; Pengguna Facebook kulit hitam mengalami lebih banyak pelecehan daripada pengguna kulit putih. Sistem otomatis lainnya telah menilai guru, siswa, dan menandai orang berkulit gelap lebih sering karena menyontek saat ujian.
Sekarang, upaya sedang dilakukan untuk lebih memahami caranya AI bekerja dan meminta pertanggungjawaban pengguna. Dewan Kota New York bulan lalu mengadopsi undang-undang yang mewajibkan audit algoritma yang digunakan oleh pemberi kerja dalam perekrutan atau promosi. Undang-undang, yang pertama dari jenisnya di negara ini, mengharuskan pengusaha untuk membawa orang luar untuk menilai apakah suatu algoritme menunjukkan bias berdasarkan jenis kelamin, ras, atau etnis. Pengusaha juga harus memberi tahu pelamar kerja yang tinggal di New York ketika kecerdasan buatan berperan dalam memutuskan siapa yang akan dipekerjakan atau dipromosikan.
Di Washington, DC, anggota Kongres sedang menyusun RUU yang akan mengharuskan bisnis untuk mengevaluasi sistem pengambilan keputusan otomatis yang digunakan di berbagai bidang seperti perawatan kesehatan, perumahan, pekerjaan, atau pendidikan, dan melaporkan temuannya ke Komisi Perdagangan Federal; tiga dari lima anggota FTC mendukung regulasi algoritma yang lebih kuat. Bill of Rights AI yang diusulkan bulan lalu oleh Gedung Putih menyerukan pengungkapan ketika AI membuat keputusan yang berdampak pada hak-hak sipil seseorang, dan dikatakan bahwa sistem AI harus “diaudit dengan hati-hati” untuk akurasi dan bias, antara lain.
Di tempat lain, anggota parlemen Uni Eropa sedang mempertimbangkan undang-undang yang mewajibkan pemeriksaan AI yang dianggap berisiko tinggi dan membuat daftar publik untuk sistem berisiko tinggi. Negara-negara termasuk China, Kanada, Jerman, dan Inggris juga telah mengambil langkah-langkah untuk mengatur AI dalam beberapa tahun terakhir.
Julia Stoyanovich, seorang profesor di Universitas New York yang bertugas di Gugus Tugas Sistem Keputusan Otomatis Kota New York, mengatakan bahwa dia dan para siswa baru-baru ini memeriksa alat perekrutan dan menemukan bahwa alat itu memberi nilai kepribadian yang berbeda kepada orang-orang berdasarkan program perangkat lunak yang mereka gunakan untuk membuat resume mereka. Studi lain menemukan bahwa algoritme perekrutan menyukai pelamar berdasarkan di mana mereka pergi ke sekolah, aksen mereka, apakah mereka memakai kacamata, atau apakah ada rak buku di latar belakang.
Stoyanovich mendukung persyaratan pengungkapan dalam undang-undang Kota New York, tetapi dia mengatakan persyaratan audit cacat karena hanya berlaku untuk diskriminasi berdasarkan jenis kelamin atau ras. Dia mengatakan algoritme yang menilai orang berdasarkan font dalam resume mereka akan diterima di bawah hukum karena tidak mendiskriminasi atas dasar itu.
“Beberapa alat-alat ini benar-benar tidak masuk akal,” katanya. “Ini adalah hal-hal yang benar-benar harus kita ketahui sebagai anggota masyarakat dan sebagai manusia. Kita semua akan melamar pekerjaan di beberapa titik.”
Beberapa pendukung pengawasan yang lebih ketat mendukung audit wajib atas algoritma yang serupa dengan audit keuangan perusahaan. Lainnya lebih suka “penilaian dampak” mirip dengan laporan dampak lingkungan. Kedua kelompok setuju bahwa lapangan sangat membutuhkan standar tentang bagaimana tinjauan tersebut harus dilakukan dan apa yang harus mereka sertakan. Tanpa standar, bisnis dapat terlibat dalam “pencucian etika” dengan mengatur audit yang menguntungkan. Para pendukung mengatakan bahwa tinjauan tidak akan menyelesaikan semua masalah yang terkait dengan algoritme, tetapi mereka akan membantu membuat pembuat dan pengguna AI bertanggung jawab secara hukum.
Laporan yang akan datang oleh Algorithmic Justice League (AJL), sebuah lembaga nonprofit swasta, merekomendasikan untuk mewajibkan pengungkapan saat model AI digunakan dan membuat repositori publik untuk insiden di mana AI menyebabkan kerugian. Repositori dapat membantu auditor menemukan potensi masalah dengan algoritme dan membantu regulator menyelidiki atau mendenda pelanggar berulang. Salah satu pendiri AJL, Joy Buolamwini, ikut menulis audit berpengaruh tahun 2018 yang menemukan algoritme pengenalan wajah bekerja paling baik pada pria kulit putih dan terburuk pada wanita dengan kulit gelap.
Bias rasial dalam rekening medis dapat menyebabkan… April Bulan Kesehatan Minoritas Nasional.Termometer dahi dan oksimeter nadi telah lama digunakan untuk menilai kesehatan pasien. Tetapi pada hari-hari awal pandemi Covid-19, mereka menjadi lebih penting. Jika pembacaan dari oksimeter…
Hidup Dengan Lupus - Wanita Sehat Marisa Mays, 40, memiliki masalah kesehatan sejak pertengahan 20-an. Dia mulai dengan kehamilan pertamanya, ketika dia mengalami komplikasi dari fibroid, ditidurkan dan melahirkan prematur. "Sejak itu, hidup saya tidak benar-benar…
'Mereka mengecualikan saya': Pengakuan… Perhitungan media membawa gelombang keragaman internal baru, inisiatif kesetaraan dan inklusi dan evaluasi diri perusahaan tentang perwakilan ras dan etnis staf di sebagian besar organisasi media besar. Tetapi tanpa dukungan…
Tidak Aman Untuk Bekerja: 11 Frasa yang Seharusnya… Salah satu tujuan SDM yang baik adalah untuk mencegah tuntutan hukum. Tapi orang HR Anda dan pengacara pekerjaan Anda tidak mengikuti Anda sepanjang waktu. Jadi, pengacara bisnis Josh Joel, Penasihat…
WhatsApp sekarang memungkinkan Anda mengatur semua… WhatsApp menambahkan fungsionalitas baru ke fitur pesan yang menghilang, yang memungkinkan pengguna mengatur pesan dalam obrolan untuk dihapus secara otomatis setelah jangka waktu tertentu. WhatsApp mengatakan pengguna sekarang akan memiliki…
Pentingnya dokter kulit hitam: perawatan kulit harus… Kantor dokter gigi adalah tempat terakhir yang saya harapkan untuk waspada terhadap kanker kulit. Ketika ahli kebersihan saya mengangkat rambut saya dari telinga saya selama pemeriksaan kepala dan leher, saya…
Pertukaran Crypto Korea Selatan Melarang Alamat IP… Para ahli mencatat bahwa keyakinan bahwa Rusia dapat menggunakan mata uang kripto untuk menghindari sanksi mungkin salah karena lonjakan harga Bitcoin tidak dapat dikaitkan dengan orang Rusia yang membeli lebih…
Ketika Stigma Membunuh - Kesehatan Wanita Juli Bulan kesadaran kesehatan mental untuk minoritas nasional. Pada 14 Februari 1995, Fonda Bryant siap mati. Berencana untuk keluar dari hidupnya hari itu, dia menelepon bibinya Spanky untuk terakhir kalinya,…
Mengapa layanan medis HIV tidak menjangkau… Hydeia Broadbent tidak pernah tahu seperti apa hidup tanpa HIV.Ia dilahirkan dengan HIV, dan pada tahun 1984 virusnya bermutasi menjadi Acquired Immunodeficiency Syndrome (AIDS), menyebabkan jumlah sel T (sel darah…
Percakapan OB-GYN tentang kesetaraan kesehatan dan menopause Menopause adalah pengalaman yang hampir universal terjadi pada wanita paruh baya. Kebanyakan wanita akan mengalami beberapa perubahan fisik, mental, dan emosional pada tahun-tahun sebelum dan sesudah akhir siklus menstruasi mereka.…
Bisakah tinggal di Amerika Serikat meningkatkan… Jika Anda adalah wanita yang melahirkan di Amerika Serikat, kemungkinan besar Anda akan mengalami kelahiran prematur dibandingkan wanita di sebagian besar negara maju. Jika Anda berkulit hitam atau penduduk asli…
Ras dan keuangan: perangkap pinjaman mahasiswa Terima pembaruan masyarakat AS gratisKami akan mengirimkan email pembulatan myFT Daily Digest up berita masyarakat AS terbaru setiap pagi. Ini adalah yang kedua dari serangkaian artikel yang membahas ras dan…
Melanoma saya dikesampingkan dari folikel rambut… Seperti yang diceritakan kepada Nicole Audrey SpectorKetika saya pertama kali melihat benjolan di garis bikini saya, naluri saya mengatakan ada yang tidak beres, jadi saya segera membuat janji dengan dokter.…
Dalam Berita: Hibah Hingga $500,000 Tersedia untuk… Ketika kota dan negara bagian menawarkan hibah besar, mereka ingin itu terbayar dengan menyediakan peluang pertumbuhan pekerjaan, inovasi, dan bahkan perbaikan lingkungan. Itu adalah kasus hibah yang disediakan negara bagian…
RUU Medali Emas Kongres O'Ree akan dipilih minggu depan Langkah berikutnya Willie O'Ree untuk dianugerahi Medali Emas Kongres bisa datang minggu depan, sekitar waktu yang sama No. 22-nya akan dipensiunkan oleh Boston Bruins.Dewan Perwakilan Rakyat AS dijadwalkan untuk memberikan…
Mengapa orang kulit berwarna lebih mungkin meninggal… Ketika Jacqueline Smith menjadi sukarelawan di acara-acara untuk mempromosikan pentingnya skrining kanker kulit, dia akan menawarkan tabir surya kepada siapa saja yang mampir ke meja atau stannya. Smith berkata dia…
Mengapa perawatan HIV tidak menjangkau mereka yang… Hydeia Broadbent tidak pernah tahu hidup tanpa HIV. HIV lahir pada tahun 1984, dan virus Broadbent berkembang menjadi Acquired Immunodeficiency Syndrome (AIDS), yang berarti jumlah sel T (sel darah putih…
TikTok menghadapi penyelidikan tentang dampaknya… Koalisi jaksa agung negara bagian dari California, Florida, Kentucky, dan banyak lagi sedang menyelidiki TikTok untuk efek potensialnya pada kesehatan mental dan fisik anak muda (melalui CNBC). Kelompok AG sedang…
Wanita kulit hitam lebih mungkin meninggal karena… Pada 2012, Adrienne Moore memperhatikan bahwa siklus menstruasinya berubah. Menstruasinya menjadi tidak teratur, dan dia datang dengan pendarahan hebat dan kram parah pada saat mereka tiba. Penyedia layanan kesehatan telah…
Pengadilan Rusia menyatakan Meta bersalah atas… Seorang hakim di pengadilan Moskow mengatakan pada hari Senin bahwa Instagram dan Facebook bersalah atas aktivitas "ekstremis", memperkuat larangan pada kedua platform yang mulai berlaku awal bulan ini, dilaporkan Reuters.…
SEC tidak akan membebaskan Elon Musk dari "pengasuh… Security and Exchange Commission (SEC) mendorong kembali upaya CEO Tesla Elon Musk untuk mengakhiri penyelesaian dengan agensi yang mengharuskannya untuk menunjukkan tweet yang berisi informasi bisnis material kepada pengacara perusahaan…
Mengapa agen California menggugat Tesla Pekerja kulit hitam di pabrik Tesla Fremont, California menjadi sasaran penghinaan rasial dan didiskriminasi dalam penugasan kerja, gaji, dan promosi, pengaduan yang diajukan oleh badan pengatur California pada Rabu (9…
Keragaman dalam uji klinis kanker Pada Juli 2021, Latoya Bolds-Johnson, seorang asisten dokter di wilayah Washington, D.C., didiagnosis menderita kanker payudara triple-negatif stadium III (CMNT). Karena riwayat medisnya, Latoya mengetahui sejak awal perawatannya bahwa dia…
City of Jackson Mengambil Langkah Pertama untuk… Bitcoin NewsCity of Jackson Mengambil Langkah Pertama untuk Menambahkan Crypto ke Gaji Karyawannya AnTy24 Desember 2021Permintaan proposal (RFP) telah dibuka untuk memungkinkan platform pihak ketiga untuk melamar menjadi konverter kripto…
Meta menutup sistem pengenalan wajah Facebook Menerima pembaruan Facebook Inc gratisKami akan mengirimi Anda myFT Daily Digest pembulatan email up berita Facebook Inc terbaru setiap pagi.Meta akan menutup sistem pengenalan wajah Facebook dan menghapus data yang…
Saksi Pemakzulan Alexander Vindman Menuntut Donald… Topline Lt. Kol. Alexander Vindman, yang bersaksi melawan Presiden Donald Trump saat itu selama persidangan pemakzulan pertamanya, menggugat sekutu Trump termasuk Donald Trump, Jr., dan Rudy Giuliani di pengadilan federal…
Saya salah berpikir bahwa ras membuat saya kebal… Seperti yang diceritakan kepada Nicole Audrey Spector Saya dibesarkan dalam keluarga di mana tabir surya tidak dibicarakan dan jarang digunakan. Justru sebaliknya: kami menyiram diri kami dengan minyak berjemur dan…
Dukungan Akuntabilitas Internasional untuk Ukraina Pada 29 April 2022, Kelompok Studi Kongres tentang Hubungan Luar Negeri dan Keamanan Nasional bertemu di Zoom untuk membahas bagaimana Amerika Serikat dapat mendukung akuntabilitas internasional dengan sebaik-baiknya atas tindakan…
TikTok menangguhkan posting dan streaming langsung di Rusia Platform video sosial TikTok mengumumkan pada 6 Maret bahwa mereka menangguhkan semua posting baru dan streaming langsung untuk pengguna di Rusia. Langkah drastis ini dilakukan di tengah perang yang sedang…
Undang-undang "hak atas perumahan" baru Spanyol… Pemerintah Spanyol baru saja mengesahkan kontrol sewa sebagai bagian dari undang-undang “hak atas perumahan” nasional yang pertama. Ley por el Derecho a Vivienda (“Hukum Hak atas Perumahan”) akan mengizinkan pemerintah…