Bunuh Algoritma Anda: Dengarkan podcast baru yang menampilkan kisah-kisah dari FTC yang lebih menakutkan

Kill Your Algorithm adalah podcast dua bagian Digiday khusus yang mengeksplorasi implikasi dari Komisi Perdagangan Federal yang lebih agresif. Kadang-kadang disebut lemah dan ompong dalam beberapa tahun terakhir, FTC mempertajam taringnya di bawah kepemimpinan baru yang keras dari Ketua Lina Khan, yang telah memandu perubahan kebijakan yang dapat berdampak besar pada bagaimana badan tersebut menangani penyalahgunaan data privasi dan antimonopoli. -lapar teknologi. Tapi suara garis partai di antara komisaris FTC menandakan peningkatan keberpihakan internal di badan tersebut, yang dikenal secara historis untuk bangkit di atas keributan politik. Dan beberapa kekhawatiran menjadi terlalu agresif atau politis bisa menjadi bumerang.

Ketika FTC menuduh bahwa pembuat aplikasi pelacakan periode Flo Health membagikan informasi kesehatan pribadi orang dengan Facebook dan Google tanpa izin, penyelesaiannya dengan perusahaan memerlukan beberapa perubahan dalam cara mengumpulkan dan menggunakan data orang. Tetapi beberapa orang percaya itu hanyalah contoh lain dari pendekatan yang lemah untuk menegakkan otoritas badan tersebut. Penyelesaian segera menyebabkan pembaruan kebijakan penegakan kontroversial yang dapat memengaruhi pembuat aplikasi kesehatan dan kebugaran yang tak terhitung jumlahnya. Dan itu hanya satu indikasi bahwa FTC semakin ketat terhadap perusahaan teknologi. Itu sudah memaksa dua perusahaan untuk menghancurkan algoritme mereka.

Transkrip

Bunuh Kredit Algoritma Anda:
Kate Kaye, reporter, penulis naskah, dan pembawa acara
Sara Patterson, produser
Priya Rao, editor naskah
D. Rives Curtright, musik asli

PAM DIXON

Untuk beberapa orang — untuk beberapa wanita — ini bukan hanya pelanggaran privasi, tetapi juga keyakinan spiritual, dan keyakinan agama. Ini adalah masalah besar bagi mereka dan membuat mereka sangat malu.

KATE KAYEPam Dixon adalah direktur eksekutif Forum Privasi Dunia, sebuah organisasi yang menyediakan penelitian dan panduan terkait dengan segala macam masalah privasi.

Ketika orang mengetahui bahwa aplikasi pelacak menstruasi bernama Flo mungkin telah membagikan data intim tentang tubuh mereka tanpa izin, banyak panggilan masuk ke hotline privasi grupnya.

DIXON
Ketika orang-orang dari suatu aplikasi mengetahui bahwa data mereka masuk ke salah satu perusahaan teknologi besar ini yang mereka tidak menyadari ketika mereka mendaftar, itu membuat mereka sangat gugup dan saya pikir itu adil. Mereka akan menelepon saluran kantor kami yang merupakan saluran suara dan menerima banyak pesan.

KAYE
Jadi, jika Anda tidak menggunakan salah satu pelacak periode ini, mereka sudah menjadi sangat umum. Seperti banyak aplikasi pelacak menstruasi lainnya, orang menggunakan Flo untuk memantau menstruasi mereka untuk melihat apakah mereka terlambat, untuk mengetahui apakah ini waktu yang tepat untuk mencoba hamil, untuk merencanakan kapan tanggal terbaik untuk liburan pantai, atau jika mereka sedikit lebih tua, untuk mengukur bagaimana siklus menstruasi mereka berubah saat menopause muncul. informasi tentang tubuh mereka — ketika mereka berhubungan intim, apakah mereka memiliki masalah terkait seks dan bahkan ketika mereka mengalami gejala pramenstruasi seperti kembung atau jerawat atau depresi.

Diduga antara 2017 dan 2019 , Flo Health, pembuat aplikasi Flo Period dan Ovulation Tracker, membagikan jenis kesehatan pribadi tersebut data dengan perusahaan termasuk Google dan Facebook.

Dan berbagi data itu mungkin telah mempengaruhi banyak orang. Puluhan juta orang di seluruh dunia menggunakan aplikasi Flo.

Maria Jose adalah salah satu dari banyak pengguna aplikasi Flo. Dia tinggal di Medellin, Kolombia. Ketika kami berbicara pada bulan September, dia berusia 14 tahun — akan berusia 15 tahun. Karena usianya, kami hanya menggunakan nama depan Maria Jose.

Ketika saya mulai, seperti, menstruasi saya, saya berbicara dengan teman-teman saya, dan mereka merekomendasikan saya aplikasi Flo. Saya baru mulai menggunakannya. Saya benar-benar tidak membaca aplikasi kebijakan — privasi. Aku baru saja, seperti, memulainya. Dan, ya, itu sangat luar biasa, aplikasi itu.

Saya suka itu memberi tahu saya kapan saya akan mulai jadi saya tidak seperti apa pun, di sekolah atau apa saja.

KAYE

Ya, jadi Anda tidak memiliki bintik-bintik berakhir di tempat yang tidak Anda inginkan. Aku pernah mengalaminya saat aku seusiamu. Aku ingat.

Perusahaan itu membagikan informasi bahwa, misalnya, orang-orang seperti Anda, ketika mereka menggunakan aplikasi dan Anda berkata, “Hei, menstruasi saya dimulai,” informasi itu dapat dibagikan ke Facebook dan Google dan perusahaan lain. Dan ada kemungkinan itu bisa digunakan untuk, katakanlah, penargetan iklan atau Facebook untuk digunakan untuk pengembangan dan penelitian produk — kami tidak benar-benar tahu. Apa pendapatmu tentang itu?

MARIA JOSE

Saya tidak akan berhenti menggunakan aplikasi karena sangat berguna, tetapi saya sedikit khawatir bahwa, ya, itu dapat dihubungkan dengan sangat mudah.

KAYE
Maria Jose menjelaskan kepada saya bahwa dia tidak menyukai ide aplikasi Flo yang menautkan data tentang menstruasi atau gejala pramenstruasinya ke data yang dimiliki perusahaan lain — seperti Facebook atau Google.

Dia benar untuk khawatir. Ketika orang memasukkan data ke dalam aplikasi seperti Flo, biasanya tidak hanya di satu tempat. Itu berjalan dan sering digabungkan dan terhubung ke data lain.

Dan ketika aplikasi pelacak periode seperti Flo berbagi informasi dengan Facebook atau perusahaan lain, itu dapat dihubungkan dengan informasi lain tentang seseorang — dan digunakan untuk melukis potret yang lebih jelas tentang siapa mereka dan apa yang terjadi dalam hidup mereka.

Facebook, misalnya, dapat mengambil informasi seperti seseorang mengalami kenaikan berat badan saat PMS dan dapat mengarahkan iklan pada mereka yang mempromosikan produk penurun berat badan. Atau bahkan bisa dikategorikan sebagai seseorang yang berisiko mengalami masalah kesuburan yang berhubungan dengan penambahan berat badan dan kembung.

Ini Pam Dixon lagi.

DIXON
Sering kali masalah muncul adalah ketika ada penggunaan sekunder yang tidak diketahui dari informasi yang Anda percayakan, Anda tahu perusahaan teknologi atau pengecer atau siapa pun, dan saya pikir di situlah Flo mendapat masalah di sini.

KAYE
Dan masalahnya adalah, informasi tentang menstruasi, atau kesuburan, atau apakah seseorang sedang mencoba untuk mengandung anak — ini bukan hanya poin data. Mereka adalah masalah pribadi, sensitif.

Orang seperti Maria Jose ditindas. Wanita dan anak perempuan di beberapa bagian India dipaksa untuk tinggal di gubuk menstruasi – diasingkan hanya untuk mendapatkan menstruasi mereka. Dan informasi tentang kapan seseorang sedang menstruasi mengambil tingkat risiko yang sama sekali baru untuk pria trans atau orang non-biner.

DIXON
Ada kekhawatiran yang signifikan, dan bukan hanya dari orang-orang di Amerika Serikat, ada orang-orang dari negara lain yang sangat mengkhawatirkan hal ini, dan kecemasan tersebut sebenarnya dalam beberapa kasus adalah lebih kuat di negara lain — dan ada lebih banyak kemarahan.

Dalam beberapa budaya, periode tidak kontroversial tetapi sangat pribadi. Di AS, saya pikir kami lebih terbuka tentang hal-hal ini, dan kami melihatnya sebagai, OK, ini adalah bagian dari kesehatan, dan Anda tahu, kami membicarakannya, tetapi tidak seperti itu di mana-mana. Dan di tempat-tempat di mana tidak seperti itu, memiliki pelanggaran semacam ini adalah masalah yang sangat besar.

Saya pikir diberi tahu dengan baik, “itu hanya angka,” masalahnya sekali ada pelanggaran kepercayaan seperti ini sangat sulit untuk mendapatkannya kembali dan karena kita tidak memiliki cukup transparansi tentang apa yang sebenarnya terjadi, saya pikir ada kekurangan kepercayaan yang berkelanjutan.

KAYE
Jadi, Anda mungkin bertanya-tanya — bukankah ada hukum terhadap apa yang dilakukan Flo Health? Tidak bisakah pemerintah melakukan sesuatu ketika sebuah perusahaan membagikan data kesehatan pribadi yang sensitif tanpa izin?

Yah, ya. Ada undang-undang yang melarang praktik bisnis yang menipu seperti ini. Dan ada lembaga pemerintah yang dibentuk untuk melindungi orang dari pembagian data yang tidak adil yang diduga diaktifkan oleh Flo Health.

Faktanya, lembaga itu — Komisi Perdagangan Federal — atau disingkat FTC — adalah persis apa yang akan kita bicarakan di sini. Nama saya Kate Kaye. Saya seorang reporter yang meliput masalah data dan privasi untuk Digiday, dan banyak pelaporan saya berhubungan dengan FTC dan bagaimana hal itu berubah untuk mendapatkan pegangan yang lebih baik pada industri teknologi yang sebagian besar liar.

Ini adalah bagian pertama dari Kill Your Algorithm, podcast dua bagian tentang bagaimana FTC semakin keras.

Tentang bagaimana ia mencoba menggunakan teknologi yang haus data.

Tentang apa arti FTC yang lebih agresif bagi perusahaan teknologi dan orang-orang yang menggunakan aplikasi dan situs web mereka.

Tentang pengaruh keberpihakan dan politik masa depan FTC.

Dan tentang bagaimana masa lalunya bisa menghalangi.

FTC menyelidiki Flo Health dan akhirnya mengajukan pengaduan terhadap perusahaan yang dipublikasikan pada Januari 2021.

Mereka menemukan bahwa — meskipun perusahaan berjanji kepada pengguna bahwa itu tidak akan membagikan detail intim tentang mereka — memang. FTC mengatakan bahwa Flo mengungkapkan informasi yang mengungkapkan hal-hal seperti ketika pengguna aplikasi mengalami menstruasi atau jika mereka hamil.

Eksposur jurnal Wall Street 2019 yang membuat FTC tertarik untuk menyelidiki Flo memandu pembaca melalui proses tersebut. Bagaimana perangkat lunak di dalam aplikasi Flo merekam informasi — katakanlah tentang kapan pengguna berovulasi — dan meneruskannya ke Facebook, yang kemudian dapat digunakan untuk iklan target, mungkin untuk layanan kesuburan.

KAYE
Jadi, pada akhirnya FTC melakukan apa yang sering dilakukannya dalam situasi seperti ini. Itu diselesaikan dengan Flo Kesehatan.

Setelah penyelidikan, empat dari lima komisaris FTC memilih untuk menyelesaikan penyelesaian hukum dengan perusahaan. Itu menuntut Flo Health membuat beberapa perubahan pada aplikasinya dan praktik datanya untuk memastikan tidak akan pernah membagikan data kesehatan intim orang tanpa izin mereka lagi.

Perusahaan harus bertanya kepada orang-orang dengan cara yang jelas dan menonjol — seperti di awal saat mereka mengunduh aplikasi — apakah mereka setuju Flo membagikan data kesehatan mereka. Itu berarti Flo Health tidak dapat terus mengubur informasi tentang berbagi data dalam kebijakan privasi yang tidak pernah dibaca sebagian besar pengguna.

Penyelesaian juga mengatakan perusahaan harus memberi tahu orang-orang yang menggunakan aplikasinya bahwa data telah disebarluaskan ke perusahaan seperti Facebook tanpa sepengetahuan atau izin mereka.

Akhirnya, FTC memerintahkan Flo Health untuk memberi tahu perusahaan lain yang membagikan data penggunanya, seperti Facebook dan Google, bahwa mereka harus memusnahkan data tersebut.

Flo menolak untuk diwawancarai untuk podcast ini, tetapi perusahaan mengirimkan pernyataan yang mengklaim bahwa Flo Health tidak pernah menjual data pengguna atau membagikannya untuk tujuan periklanan. Perusahaan mengatakan bekerja sama sepenuhnya dengan penyelidikan FTC, dan menekankan bahwa penyelesaian itu bukan pengakuan atas kesalahan apa pun.

Tapi ada banyak hal yang tidak dilakukan FTC untuk menghukum Flo Health.

Itu tidak menampar denda pada perusahaan. Dan itu tidak mendapatkan uang untuk orang-orang yang dilanggar ketika Flo Health — tanpa izin — membagikan rincian tentang kapan mereka mengalami kram atau merasa kembung atau sedang berovulasi atau mengalami depresi.

Beberapa orang percaya bahwa penyelesaian itu lebih merupakan tamparan ringan di pergelangan tangan daripada hukuman berat apa pun. Mereka khawatir bahwa FTC tidak menegakkan aturan privasi kesehatan tertentu. Salah satu yang akan memaksa perusahaan untuk memberi tahu pengguna aplikasinya di masa depan jika data kesehatan pribadi mereka dibagikan atau bocor. Bahkan dua dari lima komisaris FTC sendiri ingin badan tersebut melangkah lebih jauh dengan menerapkan aturan itu: yang disebut Aturan Pemberitahuan Pelanggaran Kesehatan.

Aturan Pemberitahuan Pelanggaran Kesehatan tidak hanya mengharuskan perusahaan untuk memberi tahu orang-orang yang terkena dampak pelanggaran data terkait kesehatan, melanggarnya dapat berdampak buruk — perusahaan dapat f membayar lebih dari $ 43.000 untuk setiap pelanggaran per hari. Namun dalam satu dekade sejak memiliki kewenangan untuk menerapkan aturan tersebut, FTC tidak pernah sekalipun melakukan itu. Itu bahkan tidak diterapkan terhadap Flo.

Komisaris FTC Rohit Chopra memilih ‘ya’ pada penyelesaian melawan Flo Health, dengan beberapa peringatan. Dia berpendapat bahwa FTC seharusnya mendakwa perusahaan dengan pelanggaran aturan itu. Menegakkannya terhadap Flo bisa menjadi tanda bagi pembuat aplikasi kesehatan lainnya bahwa FTC semakin ketat pada data kesehatan dan privasi data aplikasi.

Chopra membicarakannya selama pertemuan FTC September.

ROHIT CHOPRA
Flo membagikan data yang sangat sensitif secara tidak benar dengan Facebook, Google, dan lainnya , tetapi alih-alih mengirim pesan yang jelas, bahwa teks aturan pemberitahuan pelanggaran kesehatan mencakup kegiatan ini, kami menunjukkan lagi bahwa kami tidak akan mau menegakkan hukum ini seperti yang tertulis.

KAYEJadi, ternyata dalam pertemuan itu — hanya beberapa bulan setelah penyelesaian Flo — FTC memutuskan akan menempatkan lebih banyak penekanan pada aturan itu di masa mendatang dalam hal berbagi data oleh aplikasi kesehatan.

Tidak semua orang setuju. Dua komisioner FTC memberikan suara menentang gagasan penegakan aturan terhadap pembuat aplikasi kesehatan. Mereka mengatakan bahwa berbagi data tanpa izin tidak sama dengan pelanggaran keamanan data.

Meskipun aturan pemberitahuan pelanggaran kesehatan tampaknya agak aneh dan tidak masuk akal, inilah alasannya ini penting:

FTC memiliki seperangkat alat yang dapat digunakan untuk melindungi orang ketika privasi mereka dilanggar, dan aturan ini adalah salah satu alat tersebut. Jadi, orang seperti komisaris Chopra dan sesama komisaris FTC, Rebecca Slaughter, ingin melihat FTC benar-benar menggunakan untuk memanfaatkan sepenuhnya aturan dan kekuasaan yang mereka miliki saat ini.

Saya berbicara pada bulan Juli dengan komisaris Slaughter.

REBECCA Slaughter
Kami tidak selalu membutuhkan aturan baru, kami memiliki banyak aturan yang tidak selalu kami tegakkan atau tidak kami terapkan secara luas atau sesering yang kami bisa dan jadi pastikan kami benar-benar memeriksa seluruh kotak peralatan kami dan menerapkan semua yang berlaku bahkan sebelum kita menambahkan alat baru adalah sesuatu yang saya pikir penting selama beberapa tahun dan sangat penting saat kita mengatasi jenis masalah baru.

KAYE
Dia berarti jenis masalah baru. Dan dalam beberapa hal, maksudnya masalah baru dan baru yang disebabkan oleh teknologi yang melahap data. Kasus Flo — itu hanya salah satu contoh mengapa FTC mendapatkan reputasi terlalu lemah.

Mari kita bicara Facebook.

FTC telah mengejar Facebook lebih dari sekali, tetapi banyak yang percaya itu tidak cukup keras menindak perusahaan. Kembali pada tahun 2012, agensi tersebut menyelesaikan dengan Facebook, menyelesaikan tuduhan bahwa perusahaan berbohong kepada orang-orang dengan berulang kali mengizinkan data mereka dibagikan dan dipublikasikan meskipun memberi tahu mereka bahwa informasi mereka akan dirahasiakan.

FTC memerintahkan Facebook untuk tidak melakukannya lagi dan mengatakan akan memantau perusahaan dengan cermat untuk memastikan tidak salah menggambarkan kontrol privasi atau perlindungan yang ada.

Tapi kemudian Cambridge Analytica terjadi.

Suara montase dari laporan berita:

Ini adalah perang informasi online di mana sering kali tangan tak terlihat mengambil data pribadi Anda dengan memanfaatkan harapan dan ketakutan Anda untuk hasil politik terbesar.

Pada tahun 2014, Anda mungkin telah mengikuti kuis online dan jika Anda melakukannya, Anda mungkin membagikan data pribadi Anda dan data pribadi teman Anda dengan perusahaan yang bekerja untuk kampanye Presiden Trump 2016.

Saya menemukan bahwa informasi yang diteruskan ke Cambridge Analytica adalah profil publik saya, ulang tahun saya, kota saya saat ini, dan suka halaman saya.

Kogan menggabungkan hasil kuis dengan data Facebook Anda untuk mengembangkan model psikometrik, semacam profil kepribadian.

Zuck akhirnya angkat bicara tentang skandal Cambridge Analytica Facebook.

Jadi , ini adalah pelanggaran kepercayaan yang besar dan saya sangat menyesal bahwa ini terjadi.

KAYE
Tidak ada kekurangan laporan media dan investigasi ke Cambridge Analytica dan bagaimana penargetan iklan psikologis perusahaan memengaruhi pemilih dalam pemilihan 2016.

FTC memiliki wewenang untuk melakukan sesuatu tentang dia. Mereka berkata, “Tunggu sebentar, Facebook — dengan membiarkan pengumpulan data itu terjadi di platform Anda, Anda melanggar perjanjian 2012 kami.”

Jadi, pada tahun 2019 FTC menuduh Facebook menipu penggunanya tentang seberapa pribadi informasi pribadi mereka sebenarnya, dan itu mendenda Facebook apa yang disebut FTC sebagai hukuman “pemecahan rekor”: $5 miliar.

Tapi tidak semua orang senang tentang itu. Beberapa mengatakan penyelesaian itu adalah langkah lemah lainnya oleh FTC. Bersama dengan banyak pengamat FTC, baik komisaris Chopra dan Slaughter menolak keras apa yang mereka lihat sebagai penyelesaian yang lemah dengan Facebook — yang tidak banyak menghalangi perusahaan untuk terlibat dalam taktik data lama yang sama di masa depan.

Ini komisaris Chopra berbicara kepada CNBC.

CHOPRA

Penyelesaian ini penuh dengan hadiah dan hadiah untuk Facebook.

Ada banyak hal yang harus dirayakan oleh investor mereka. Pada akhirnya, penyelesaian ini tidak memperbaiki insentif mendasar dari model periklanan perilaku mereka yang rusak. Ini mengarah pada pengawasan, manipulasi, dan segala macam masalah bagi demokrasi dan ekonomi kita.

KAYE
Komisaris Chopra menggemakan apa yang banyak kritikus katakan: bahwa denda salah satu penjual iklan digital terbesar di dunia — sebuah perusahaan yang menghasilkan lebih dari $70 miliar pendapatan tahun itu — denda lima miliar dolar tidak ada artinya.

Slaughter, dalam perbedaan pendapatnya, mengatakan dia skeptis bahwa persyaratan penyelesaian — tanpa menempatkan lebih banyak batasan tentang bagaimana Facebook mengumpulkan, menggunakan, dan membagikan data orang — akan memiliki efek pendisiplinan yang berarti pada bagaimana perusahaan memperlakukan data dan privasi ke depan.

Slaughter mengatakan kepada saya bahwa dia mengharapkan dalam kasus-kasus di masa depan terhadap perusahaan bahwa FTC akan bergerak ke arah mendapatkan solusi yang lebih keras. Dengan kata lain, pembatasan dan hukuman yang memperbaiki masalah dan pelanggaran yang mereka kenakan kepada perusahaan. Saya mengantisipasi mendorong perbaikan yang benar-benar menjadi inti masalah dan insentif yang dihadapi perusahaan yang mengarahkan mereka ke perilaku ilegal. Hal lain yang sering kita bicarakan sebagai obat baru adalah penghapusan tidak hanya data tetapi juga algoritma yang dibangun dari data yang dikumpulkan secara ilegal.

Jadi, kasus penting lain yang kami alami tahun ini bernama Everalbum yang melibatkan perusahaan yang salah mengartikan bagaimana menggunakan data foto wajah, data pengenalan wajah tentang orang-orang, dan dalam pesanan kami, kami tidak hanya meminta bagi mereka untuk menghapus data yang mereka kumpulkan tetapi juga untuk menghapus algoritme yang mereka buat dari data tersebut. Itu sangat penting karena dalam model yang menggunakan data untuk membangun alat analisis seperti algoritme, data yang mendasarinya sebenarnya tidak menjadi penting pada akhirnya, itu adalah alat yang mereka buat darinya.

KAYEYa. FTC telah mulai memaksa perusahaan untuk mematikan algoritma mereka. Dan itu bisa jadi hanya permulaan. Agensi tersebut mungkin tidak hanya menuntut agar perusahaan menghapus data yang mereka kumpulkan melalui praktik penipuan, tetapi juga akan memaksa mereka untuk menghancurkan algoritme yang mereka buat dengan data tersebut.

Itu berarti mereka harus mendapatkan menyingkirkan kode kompleks dan data yang mengalir melalui sistem otomatis mereka. Ini benar-benar menakutkan perusahaan teknologi karena dalam banyak kasus, alasan mereka mengumpulkan semua data ini adalah untuk membangun dan memberi makan algoritme yang membuat keputusan otomatis dan belajar saat mereka menyerap lebih banyak informasi.

Kami mengalami algoritme dalam hidup kami setiap hari. Saat Amazon merekomendasikan produk, itu adalah algoritme yang membuat rekomendasi tersebut. Saat Spotify atau Netflix menyajikan lagu atau film lain yang menurut mereka akan Anda sukai, sebuah algoritme melakukannya. Bahkan saat kita berkendara hari ini. Fitur bantuan pengemudi otomatis yang membantu mobil Anda tetap berada di jalur di jalan raya? Anda dapat menebaknya: sebuah algoritma.

Dan alasan orang memberikan aplikasi seperti Flo informasi kesehatan pribadi seperti kapan mulai menstruasi dan apakah mereka mengalami kram, sehingga aplikasi dan algoritme yang digunakannya dapat membuat prediksi yang lebih akurat dan meningkatkan waktu.

Ini Rebecca Slaughter.

SALGHTER
Tidak ada yang membicarakan hal ini, tetapi itu adalah sesuatu yang kami butuhkan dari Cambridge Analytica juga. Dalam perintah kami melawan Cambridge Analytica, kami meminta mereka untuk menghapus tidak hanya data tetapi juga algoritma yang mereka buat dari data, yang membuat alat mereka berharga dan berguna.

Itu adalah hal yang penting bagian dari hasil bagi saya dalam kasus itu. Saya pikir ini akan terus menjadi penting saat kita melihat mengapa perusahaan mengumpulkan data yang seharusnya tidak mereka kumpulkan, bagaimana kita bisa mengatasi insentif tersebut, bukan hanya praktik tingkat permukaan yang bermasalah.

KAYE
Cambridge Analytica secara efektif dimatikan setelah itu.

Sementara FTC tidak akan mengungkapkan secara spesifik tentang bagaimana FTC memantau perusahaan untuk mematuhi penyelesaiannya, pendekatan tersebut merupakan tanda dari apa yang dapat dimiliki FTC yang lebih agresif — terutama untuk perusahaan yang bisnisnya mengandalkan data dan algoritme.

Alysa Hutnik mengepalai praktik privasi dan keamanan informasi di Kelley Drye and Warren. Mereka adalah firma hukum yang mewakili perusahaan teknologi. Dia dan kliennya selalu waspada terhadap perubahan di FTC yang dapat mempengaruhi bisnis mereka.

ALYSA HUTNIK
Anda tidak ingin berakhir dengan keputusan FTC bahwa Anda melanggar hukum karena itu sering dimulai dengan diskusi penyelesaian, dan penyelesaiannya adalah tentang mengubah praktik bisnis Anda. Di mana, jika FTC berpikir bahwa Anda telah melakukan sesuatu yang salah, maka salah satu solusi yang sangat mereka cari sekarang adalah, “Dapatkah kami menghapus beberapa model Anda dan pengambilan keputusan algoritme Anda.” Nah, apa fungsinya? Maksud saya, jika model Anda harus dihapus, apakah Anda memulai dari awal pada beberapa hal yang cukup substantif? Dan itu jelas mempengaruhi nilai bisnis dan apa yang benar-benar dapat Anda lakukan ke depan.

KAYE
Dalam kasus Flo, perusahaan tidak perlu menghancurkan algoritmanya. Meskipun Flo Health ketahuan berbagi data dengan perusahaan tanpa izin, mereka, sejauh menyangkut FTC, memiliki izin dari orang-orang untuk menggunakan data yang dikumpulkan dari mereka untuk membantu melacak menstruasi mereka.

Dan Flo berencana untuk terus meningkatkan algoritmanya. Ketika perusahaan mengumpulkan $50 juta dalam pendanaan modal ventura pada bulan September, dikatakan akan menggunakan uang itu untuk membuat aplikasinya lebih disesuaikan dan memberi pengguna wawasan lanjutan tentang siklus menstruasi dan pola gejala mereka untuk membantu mereka mengelola dan meningkatkan kesehatan mereka.

Flo Health adalah masih aktif memasarkan aplikasinya mencoba untuk mendapatkan lebih banyak pengguna. Itu mulai menjalankan iklan di Facebook pada bulan September mempromosikan pembaruan untuk aplikasinya. Perusahaan bahkan mengirimkan barang curian ke influencer.

JAY PALUMBO
Halo, semuanya . Bisakah kita mendiskusikan kotak yang baru saja saya terima dari Flo? Lihat ini, fenomenal pada periode saya .

KAYE
Pada bulan Juli, Flo mengirim kotak bingkisan ke Jay Palumbo, komik stand-up dan advokat kesehatan wanita yang menulis untuk Forbes dan publikasi lainnya. Dia mengatakan kepada saya bahwa dia tidak pernah melakukan pekerjaan apa pun untuk Flo atau mempromosikan perusahaan, tetapi dia men-tweet video yang memamerkan hadiah yang dia dapatkan dari mereka.

Jadi, meskipun Flo Health didakwa dengan berbagi data yang tidak adil dan menipu, perusahaan tampaknya tidak ketinggalan. Mereka bahkan memiliki podcast.

FLO PODCAST SOUND
Ini adalah tubuhmu ceritamu, podcast oleh Flo.

KAYE
Tapi bukan hanya masalah privasi, orang-orang mengkritik FTC karena terlalu lemah pada. Mereka juga mengatakan bahwa badan tersebut tidak efektif dalam hal pengawasan, antimonopoli dan persaingan, atau memastikan keadilan pasar.

Begini: tidak sulit untuk menemukan artikel atau, seperti, wawancara dengan pakar yang menyebut FTC sebagai lembaga yang tidak melakukan apa-apa, lembaga yang gagal melindungi orang dalam segala hal, mulai dari kenaikan harga obat hingga hukuman yang tidak memadai bagi perusahaan teknologi.

BERITA SOUNDBYTE
FTC sebelumnya adalah agensi yang cukup ompong dalam menghadapi beberapa perusahaan teknologi besar ini.

KAYE
Tapi itu sepertinya akan berubah.

Dan ada satu orang yang mendorong perubahan itu: Lina Khan.

Sound montage dari laporan berita:

Ini adalah semacam momen ‘oh wow’ bagi saya ketika saya mendengar nama Lina Khan pagi ini. Ceritakan lebih banyak tentang mengapa Lina Khan menjadi masalah besar dan mengapa perusahaan teknologi mungkin sedikit gugup tentang berita ini.

Ini adalah langkah kontroversial yang dipimpin oleh ketua FTC baru Lina Khan selama pertemuan publik pertamanya dan itu bisa menandakan tindakan yang lebih agresif, terutama terhadap teknologi besar di masa depan.

[Ohio Rep. Jim Jordan] Komisi perdagangan federal yang dijalankan oleh Demokrat Biden yang ingin memperbaiki rasisme sistemik, orang-orang yang ingin bisnis Anda gagal, individu yang didukung Soros.

Facebook mencari penolakan dari ketua FTC Lina Khan.

KAYE
Dalam bagian dua Kill Your Algorithm , kita akan belajar lebih banyak tentang mengapa mantan profesor sekolah hukum progresif ini mengacak-acak bulu teknologi besar bahkan sebelum dia ditunjuk sebagai ketua FTC. Kami akan berbicara tentang beberapa langkah terbaru FTC dan bagaimana mereka dapat mengendalikan pengumpulan data berlebihan yang mendorong kekuatan teknologi. Dan kami akan menganalisis mengapa langkah FTC ke wilayah politik yang lebih partisan bisa menjadi bumerang.

Itu saja untuk episode pertama dari seri dua bagian kami ini. Terima kasih khusus kepada produser kami Sara Patterson, dan kepada multi-instrumentalis dan penulis lagu Portland, Oregon, D. Rives Curtright yang telah memasok musik pembunuh kami. Anda dapat menemukannya di sebagian besar platform streaming.

Baca selengkapnya