Gerakan untuk meminta pertanggungjawaban AI mendapatkan lebih banyak tenaga
MirageC | Getty Images
Algoritma memainkan peran yang berkembang dalam kehidupan kita, bahkan karena kekurangan mereka menjadi lebih jelas: seorang pria Michigan yang dituduh melakukan penipuan harus mengajukan kebangkrutan; alat penyaringan otomatis secara tidak proporsional merugikan orang kulit berwarna yang ingin membeli rumah atau menyewa apartemen; Pengguna Facebook kulit hitam mengalami lebih banyak pelecehan daripada pengguna kulit putih. Sistem otomatis lainnya telah menilai guru, siswa, dan menandai orang berkulit gelap lebih sering karena menyontek saat ujian.
Sekarang, upaya sedang dilakukan untuk lebih memahami caranya AI bekerja dan meminta pertanggungjawaban pengguna. Dewan Kota New York bulan lalu mengadopsi undang-undang yang mewajibkan audit algoritma yang digunakan oleh pemberi kerja dalam perekrutan atau promosi. Undang-undang, yang pertama dari jenisnya di negara ini, mengharuskan pengusaha untuk membawa orang luar untuk menilai apakah suatu algoritme menunjukkan bias berdasarkan jenis kelamin, ras, atau etnis. Pengusaha juga harus memberi tahu pelamar kerja yang tinggal di New York ketika kecerdasan buatan berperan dalam memutuskan siapa yang akan dipekerjakan atau dipromosikan.
Di Washington, DC, anggota Kongres sedang menyusun RUU yang akan mengharuskan bisnis untuk mengevaluasi sistem pengambilan keputusan otomatis yang digunakan di berbagai bidang seperti perawatan kesehatan, perumahan, pekerjaan, atau pendidikan, dan melaporkan temuannya ke Komisi Perdagangan Federal; tiga dari lima anggota FTC mendukung regulasi algoritma yang lebih kuat. Bill of Rights AI yang diusulkan bulan lalu oleh Gedung Putih menyerukan pengungkapan ketika AI membuat keputusan yang berdampak pada hak-hak sipil seseorang, dan dikatakan bahwa sistem AI harus “diaudit dengan hati-hati” untuk akurasi dan bias, antara lain.
Di tempat lain, anggota parlemen Uni Eropa sedang mempertimbangkan undang-undang yang mewajibkan pemeriksaan AI yang dianggap berisiko tinggi dan membuat daftar publik untuk sistem berisiko tinggi. Negara-negara termasuk China, Kanada, Jerman, dan Inggris juga telah mengambil langkah-langkah untuk mengatur AI dalam beberapa tahun terakhir.
Julia Stoyanovich, seorang profesor di Universitas New York yang bertugas di Gugus Tugas Sistem Keputusan Otomatis Kota New York, mengatakan bahwa dia dan para siswa baru-baru ini memeriksa alat perekrutan dan menemukan bahwa alat itu memberi nilai kepribadian yang berbeda kepada orang-orang berdasarkan program perangkat lunak yang mereka gunakan untuk membuat resume mereka. Studi lain menemukan bahwa algoritme perekrutan menyukai pelamar berdasarkan di mana mereka pergi ke sekolah, aksen mereka, apakah mereka memakai kacamata, atau apakah ada rak buku di latar belakang.
Stoyanovich mendukung persyaratan pengungkapan dalam undang-undang Kota New York, tetapi dia mengatakan persyaratan audit cacat karena hanya berlaku untuk diskriminasi berdasarkan jenis kelamin atau ras. Dia mengatakan algoritme yang menilai orang berdasarkan font dalam resume mereka akan diterima di bawah hukum karena tidak mendiskriminasi atas dasar itu.
“Beberapa alat-alat ini benar-benar tidak masuk akal,” katanya. “Ini adalah hal-hal yang benar-benar harus kita ketahui sebagai anggota masyarakat dan sebagai manusia. Kita semua akan melamar pekerjaan di beberapa titik.”
Beberapa pendukung pengawasan yang lebih ketat mendukung audit wajib atas algoritma yang serupa dengan audit keuangan perusahaan. Lainnya lebih suka “penilaian dampak” mirip dengan laporan dampak lingkungan. Kedua kelompok setuju bahwa lapangan sangat membutuhkan standar tentang bagaimana tinjauan tersebut harus dilakukan dan apa yang harus mereka sertakan. Tanpa standar, bisnis dapat terlibat dalam “pencucian etika” dengan mengatur audit yang menguntungkan. Para pendukung mengatakan bahwa tinjauan tidak akan menyelesaikan semua masalah yang terkait dengan algoritme, tetapi mereka akan membantu membuat pembuat dan pengguna AI bertanggung jawab secara hukum.
Laporan yang akan datang oleh Algorithmic Justice League (AJL), sebuah lembaga nonprofit swasta, merekomendasikan untuk mewajibkan pengungkapan saat model AI digunakan dan membuat repositori publik untuk insiden di mana AI menyebabkan kerugian. Repositori dapat membantu auditor menemukan potensi masalah dengan algoritme dan membantu regulator menyelidiki atau mendenda pelanggar berulang. Salah satu pendiri AJL, Joy Buolamwini, ikut menulis audit berpengaruh tahun 2018 yang menemukan algoritme pengenalan wajah bekerja paling baik pada pria kulit putih dan terburuk pada wanita dengan kulit gelap.
Kreator kulit hitam menandatangani surat terbuka… Sekelompok pembuat konten Black Twitch telah merilis surat terbuka yang menuntut agar platform streaming itu berbuat lebih banyak untuk melindungi streamer minoritas dari serangan kebencian dan pelecehan. Surat itu ditulis…
Bagaimana Teknologi Cerdas Mengubah Organisasi Nirlaba Penggunaan teknologi pintar oleh lembaga layanan sosial dan organisasi nirlaba lainnya meledak selama pandemi. Misalnya, bank makanan mengerahkan robot untuk mengemas makanan; agen layanan tunawisma menggunakan chatbots untuk memberikan nasihat…
Video Quick Take: James Markarian tentang… Todd Pruzan, HBR Selamat datang di Pengambilan Cepat Video HBR. Keluarnya Australia yang, Menteri keuangan Turki dan proyek khusus di Harvard Business Review. Pandemi global telah mempercepat kebutuhan perusahaan perangkat…
CEO Microsoft Memiliki Strategi Media Sosial Paling… Facebook memiliki hampir 3 miliar pengguna aktif. Itu mengesankan, di permukaan (tidak ada permainan kata-kata). Faktanya, mereka memiliki begitu banyak pengguna sehingga raksasa media sosial kadang-kadang disebut sebagai "di mana-mana."Inilah…
Kesepakatan TikTok-Oracle akan menetapkan dua… Sam Whitney | Getty ImagesPada bulan Agustus 2020, Presiden Donald Trump menjatuhkan bom perintah eksekutif yang melarang TikTok di Amerika Serikat. Sejak saat itu, saat TikTok bersaing dengan perusahaan Teknologi…
Mencapai Kesejahteraan Keadilan Membutuhkan Dukungan… JaLisa Johnson, Pendiri 360Spaces V-ETS Investasi teknologi kesehatan terus melonjak, dengan lebih dari $30 miliar diinvestasikan pada tahun 2021. Meskipun pandemi dan pembunuhan George Floyd telah mengantarkan peningkatan yang signifikan…
Ras dan lokasi geografis dapat meningkatkan risiko… Orang kulit hitam Amerika 50 persen lebih mungkin meninggal karena kanker kepala dan leher - kanker bibir, mulut, laring, tenggorokan, dan kelenjar ludah - daripada rekan kulit putih mereka. Dari…
Solusi untuk kekurangan tenaga kerja: remaja? Bulan setelah laporan pertama tentang kekurangan tenaga kerja, bisnis merasakan dampaknya. Kurangnya pekerja telah memaksa bisnis untuk mengurangi jam kerja, membatasi layanan, dan bahkan menutup pintu mereka; bagi konsumen, hal…
Rahasia Wajah Putih Berseri: Tips Alami untuk Kulit… Hai semuanya! Siapa yang di sini ingin memiliki kulit putih alami yang sehat dan cerah? Naik Pangkat PNS ya? Kulit putih alami tidak hanya menjadi dambaan wanita, tetapi juga pria.…
Selama Bertahun-tahun, Investor Telah Mengabaikan… Harlem Capital telah menetapkan tujuan yang sangat berani untuk perusahaan modal ventura: Berinvestasi pada 1.000 pendiri yang beragam selama 20 tahun ke depan. Mitra pengelola Henri Pierre-Jacques sangat menyadari bahwa…
Alat moderasi konten untuk menghentikan ekstremisme Perusahaan teknologi lebih aktif dari sebelumnya dalam mencoba mencegah teroris, supremasi kulit putih, ahli teori konspirasi, dan individu, organisasi, dan gerakan kebencian lainnya untuk mengeksploitasi platform mereka, tetapi tekanan pemerintah…
Saya salah berpikir bahwa ras membuat saya kebal… Sindrom kelelahan kronis: Saya dibesarkan dalam keluarga di mana tabir surya tidak dibicarakan dan jarang digunakan. Justru sebaliknya: kami menyiram diri kami dengan minyak berjemur dan dipanggang di bawah sinar…
Tanggapan 5 Kata Elon Musk terhadap Saran Pengguna… Anda harus memberi penghargaan kepada CEO Tesla, Elon Musk. Dia mampu melakukan sesuatu dengan Tesla yang tidak dimiliki pembuat mobil lain--membangun kendaraan listrik (EV) yang ingin dibeli dan dikendarai orang.…
ABCDE deteksi melanoma 1 dari 40 wanita akan mengembangkan melanoma, jenis kanker kulit yang paling serius, dalam hidupnya. Apa itu melanoma? Melanoma adalah jenis kanker kulit yang dapat berkembang di mana saja di…
percakapan dengan dr. Octavia Cannon tentang… Meskipun menopause adalah bagian normal dari penuaan, banyak wanita merasa tidak siap untuk perubahan fisik dan mental yang datang dengan tahap kehidupan ini. Bagi banyak wanita kulit berwarna, transisi ke…
Biaya bias rasial dalam perawatan kebidanan dan ginekologi Seperti apa bias rasial dalam kesehatan ginekologi dan rahim? Tinjauan komprehensif yang memeriksa berbagai bidang kesehatan reproduksi menemukan perbedaan ras dan etnis yang menyebabkan hasil yang lebih buruk bagi wanita…
'Bukti Signifikan': Jaksa Agung New York… Topline Jaksa Agung New York Letitia James pada hari Selasa menuduh Trump Organization salah menyatakan nilai beberapa aset untuk keuntungan ekonomi dan meminta pengadilan untuk memaksa Donald Trump dan dua…
Kulit Wajah Putih Berkilau, Bukti Cinta Diri yang… Tips untuk Kulit Wajah Putih? Ada di Sini! Setiap orang tentunya menginginkan wajah yang putih dan bersih. Namun, berbagai faktor seperti paparan sinar matahari, polusi udara, dan stres dapat membuat…
Dokter kulit menjelaskan bahwa itu adalah mitos… Ditulis oleh Adewole S. Universitas Texas di AustinMelanoma adalah bentuk kanker kulit mematikan yang menyerang orang-orang dari setiap kelompok ras dan etnis. Faktor risiko yang paling terkait dengan perkembangan kanker…
Saksi Pemakzulan Alexander Vindman Menuntut Donald… Topline Lt. Kol. Alexander Vindman, yang bersaksi melawan Presiden Donald Trump saat itu selama persidangan pemakzulan pertamanya, menggugat sekutu Trump termasuk Donald Trump, Jr., dan Rudy Giuliani di pengadilan federal…
Bisakah Anda menghasilkan uang dengan kata-kata?… Home » Wawancara » Dapatkah Anda menghasilkan uang dengan kata-kata? John Pitts menjelaskan caranya di CoinGeek Backstage Kamus telah menjadi bagian dari hidup kita. Kami menggunakannya sebagai sumber utama untuk…
Mengapa wanita kulit berwarna memiliki hasil yang… Pada tahun 2013, Catrice Nolen, seorang wanita kulit hitam berusia 47 tahun di Virginia Utara, memperhatikan bahwa salah satu payudaranya terasa bengkak. Dia menelepon dokternya dan dikirim untuk mammogram. Hasilnya…
Ras dan keuangan: perangkap pinjaman mahasiswa Terima pembaruan masyarakat AS gratisKami akan mengirimkan email pembulatan myFT Daily Digest up berita masyarakat AS terbaru setiap pagi. Ini adalah yang kedua dari serangkaian artikel yang membahas ras dan…
Pentingnya dokter kulit hitam: perawatan kulit harus… Kantor dokter gigi adalah tempat terakhir yang saya harapkan untuk waspada terhadap kanker kulit. Hidup Dengan Lupus dan leher, saya melihat tahi lalat yang tidak ada selama enam bulan."Saya bukan…
Bagaimana audit SEO teknis dapat menguntungkan situs… Setiap orang mendukung perusahaan yang sukses. Tetapi strategi pemasaran digital yang berbeda akan bekerja dengan baik untuk bisnis yang berbeda. Performa SEO itu penting dan di situlah audit SEO teknis…
Tahukah Anda bahwa penyakit jantung mempengaruhi… Februari adalah Bulan Jantung Amerika. Penyakit kardiovaskular sering dianggap sebagai penyakit orang kulit putih paruh baya, namun hal ini tidak sepenuhnya benar. Risiko penyakit kardiovaskular di kalangan perempuan, terutama perempuan…
Mengapa orang kulit berwarna lebih mungkin meninggal… Ketika Jacqueline Smith menjadi sukarelawan di acara-acara untuk mempromosikan pentingnya skrining kanker kulit, dia akan menawarkan tabir surya kepada siapa saja yang mampir ke meja atau stannya. Smith berkata dia…
Pemohon hipotek kulit hitam ditolak 84% lebih sering… SEATTLE, Jan. 13, 2022 /PRNewswire/ -- Tingkat kepemilikan rumah kulit hitam yang meningkat sebelum pandemi mulai turun lagi, didorong oleh kesenjangan persetujuan hipotek yang melebar antara pelamar kulit hitam dan…
Balasan Otomatis 'Saya Sedang Berlibur' Ini… Scrooge dengan terkenal mengatakan bahwa Natal adalah "alasan yang buruk untuk mengambil saku pria setiap tanggal dua puluh lima Desember!" Sekarang, jika Crachit hanya meminta agar dia tidak mengerjakan Natal,…
Mengapa keragaman dalam uji klinis itu penting Dengan menyakiti orang kulit berwarna dan wanita lebih dari kelompok lain, pandemi Covid-19 telah mengungkap kenyataan pahit: Faktor-faktor seperti jenis kelamin, ras, dan pendapatan dapat sangat memengaruhi akses ke layanan…
SuaraSekitar Terkini Kumpulan Berita dan Informasi dari berbagai sumber yang terpercaya
