Gerakan untuk meminta pertanggungjawaban AI mendapatkan lebih banyak tenaga

The movement to hold AI accountable gains more steam

Algoritma memainkan peran yang berkembang dalam kehidupan kita, bahkan karena kekurangan mereka menjadi lebih jelas: seorang pria Michigan yang dituduh melakukan penipuan harus mengajukan kebangkrutan; alat penyaringan otomatis secara tidak proporsional merugikan orang kulit berwarna yang ingin membeli rumah atau menyewa apartemen; Pengguna Facebook kulit hitam mengalami lebih banyak pelecehan daripada pengguna kulit putih. Sistem otomatis lainnya telah menilai guru, siswa, dan menandai orang berkulit gelap lebih sering karena menyontek saat ujian.

Sekarang, upaya sedang dilakukan untuk lebih memahami caranya AI bekerja dan meminta pertanggungjawaban pengguna. Dewan Kota New York bulan lalu mengadopsi undang-undang yang mewajibkan audit algoritma yang digunakan oleh pemberi kerja dalam perekrutan atau promosi. Undang-undang, yang pertama dari jenisnya di negara ini, mengharuskan pengusaha untuk membawa orang luar untuk menilai apakah suatu algoritme menunjukkan bias berdasarkan jenis kelamin, ras, atau etnis. Pengusaha juga harus memberi tahu pelamar kerja yang tinggal di New York ketika kecerdasan buatan berperan dalam memutuskan siapa yang akan dipekerjakan atau dipromosikan.

Di Washington, DC, anggota Kongres sedang menyusun RUU yang akan mengharuskan bisnis untuk mengevaluasi sistem pengambilan keputusan otomatis yang digunakan di berbagai bidang seperti perawatan kesehatan, perumahan, pekerjaan, atau pendidikan, dan melaporkan temuannya ke Komisi Perdagangan Federal; tiga dari lima anggota FTC mendukung regulasi algoritma yang lebih kuat. Bill of Rights AI yang diusulkan bulan lalu oleh Gedung Putih menyerukan pengungkapan ketika AI membuat keputusan yang berdampak pada hak-hak sipil seseorang, dan dikatakan bahwa sistem AI harus “diaudit dengan hati-hati” untuk akurasi dan bias, antara lain.

Di tempat lain, anggota parlemen Uni Eropa sedang mempertimbangkan undang-undang yang mewajibkan pemeriksaan AI yang dianggap berisiko tinggi dan membuat daftar publik untuk sistem berisiko tinggi. Negara-negara termasuk China, Kanada, Jerman, dan Inggris juga telah mengambil langkah-langkah untuk mengatur AI dalam beberapa tahun terakhir.

Julia Stoyanovich, seorang profesor di Universitas New York yang bertugas di Gugus Tugas Sistem Keputusan Otomatis Kota New York, mengatakan bahwa dia dan para siswa baru-baru ini memeriksa alat perekrutan dan menemukan bahwa alat itu memberi nilai kepribadian yang berbeda kepada orang-orang berdasarkan program perangkat lunak yang mereka gunakan untuk membuat resume mereka. Studi lain menemukan bahwa algoritme perekrutan menyukai pelamar berdasarkan di mana mereka pergi ke sekolah, aksen mereka, apakah mereka memakai kacamata, atau apakah ada rak buku di latar belakang.

Stoyanovich mendukung persyaratan pengungkapan dalam undang-undang Kota New York, tetapi dia mengatakan persyaratan audit cacat karena hanya berlaku untuk diskriminasi berdasarkan jenis kelamin atau ras. Dia mengatakan algoritme yang menilai orang berdasarkan font dalam resume mereka akan diterima di bawah hukum karena tidak mendiskriminasi atas dasar itu.

“Beberapa alat-alat ini benar-benar tidak masuk akal,” katanya. “Ini adalah hal-hal yang benar-benar harus kita ketahui sebagai anggota masyarakat dan sebagai manusia. Kita semua akan melamar pekerjaan di beberapa titik.”

Beberapa pendukung pengawasan yang lebih ketat mendukung audit wajib atas algoritma yang serupa dengan audit keuangan perusahaan. Lainnya lebih suka “penilaian dampak” mirip dengan laporan dampak lingkungan. Kedua kelompok setuju bahwa lapangan sangat membutuhkan standar tentang bagaimana tinjauan tersebut harus dilakukan dan apa yang harus mereka sertakan. Tanpa standar, bisnis dapat terlibat dalam “pencucian etika” dengan mengatur audit yang menguntungkan. Para pendukung mengatakan bahwa tinjauan tidak akan menyelesaikan semua masalah yang terkait dengan algoritme, tetapi mereka akan membantu membuat pembuat dan pengguna AI bertanggung jawab secara hukum.

Laporan yang akan datang oleh Algorithmic Justice League (AJL), sebuah lembaga nonprofit swasta, merekomendasikan untuk mewajibkan pengungkapan saat model AI digunakan dan membuat repositori publik untuk insiden di mana AI menyebabkan kerugian. Repositori dapat membantu auditor menemukan potensi masalah dengan algoritme dan membantu regulator menyelidiki atau mendenda pelanggar berulang. Salah satu pendiri AJL, Joy Buolamwini, ikut menulis audit berpengaruh tahun 2018 yang menemukan algoritme pengenalan wajah bekerja paling baik pada pria kulit putih dan terburuk pada wanita dengan kulit gelap.

Baca selengkapnya

Rekomendasi:

Lebih dari 30 karyawan Activision Blizzard telah… 37 Karyawan Activision Blizzard dilaporkan telah "keluar" dari perusahaan sejak Juli tahun lalu sebagai bagian dari upaya perusahaan untuk menindak masalah seputar pelecehan seksual, menurut dokumen internal yang diperoleh Wall…
Rahasia Kulit Putih Alami: Temukan Kulit Cerah dan… Mendapatkan Kulit Putih Alami tanpa Efek Samping Di tengah tuntutan kecantikan modern, memiliki kulit putih alami menjadi salah satu dambaan banyak orang. Kulit putih seringkali dianggap sebagai simbol kecantikan dan…
ABCDE deteksi melanoma 1 dari 40 wanita akan mengembangkan melanoma, jenis kanker kulit yang paling serius, dalam hidupnya. Apa itu melanoma? Melanoma adalah jenis kanker kulit yang dapat berkembang di mana saja di…
Ras dan keuangan: perangkap pinjaman mahasiswa Terima pembaruan masyarakat AS gratisKami akan mengirimkan email pembulatan myFT Daily Digest up berita masyarakat AS terbaru setiap pagi. Ini adalah yang kedua dari serangkaian artikel yang membahas ras dan…
Mengapa layanan medis HIV tidak menjangkau… Hydeia Broadbent tidak pernah tahu seperti apa hidup tanpa HIV.Ia dilahirkan dengan HIV, dan pada tahun 1984 virusnya bermutasi menjadi Acquired Immunodeficiency Syndrome (AIDS), menyebabkan jumlah sel T (sel darah…
Alat moderasi konten untuk menghentikan ekstremisme Perusahaan teknologi lebih aktif dari sebelumnya dalam mencoba mencegah teroris, supremasi kulit putih, ahli teori konspirasi, dan individu, organisasi, dan gerakan kebencian lainnya untuk mengeksploitasi platform mereka, tetapi tekanan pemerintah…
Wanita kulit hitam lebih mungkin meninggal karena… Pada 2012, Adrienne Moore memperhatikan bahwa siklus menstruasinya berubah. Menstruasinya menjadi tidak teratur, dan dia datang dengan pendarahan hebat dan kram parah pada saat mereka tiba. Penyedia layanan kesehatan telah…
Ras, jenis kelamin, dan cara identitas ini… Ditulis oleh Timothy Pawlik Universitas Negeri Ohio; Elizabeth Palmer Universitas Negeri Ohiodan Samalia Obing Gyasi, Universitas Negeri OhioResearch Brief adalah kutipan singkat dari karya akademis yang menarik. Ide BesarMenjadi bagian…
Solusi untuk kekurangan tenaga kerja: remaja? Bulan setelah laporan pertama tentang kekurangan tenaga kerja, bisnis merasakan dampaknya. Kurangnya pekerja telah memaksa bisnis untuk mengurangi jam kerja, membatasi layanan, dan bahkan menutup pintu mereka; bagi konsumen, hal…
10 makanan untuk kulit sehat dan cantik Seperti yang mereka katakan, "Kamu adalah apa yang kamu makan." Klise, ya. Ini memang benar. Karena kulit adalah organ terbesar kita, tidak mengherankan jika kulit adalah bagian pertama dari tubuh…
Pemohon hipotek kulit hitam ditolak 84% lebih sering… SEATTLE, Jan. 13, 2022 /PRNewswire/ -- Tingkat kepemilikan rumah kulit hitam yang meningkat sebelum pandemi mulai turun lagi, didorong oleh kesenjangan persetujuan hipotek yang melebar antara pelamar kulit hitam dan…
Tahukah Anda bahwa penyakit jantung mempengaruhi… Februari adalah Bulan Jantung Amerika. Penyakit kardiovaskular sering dianggap sebagai penyakit orang kulit putih paruh baya, namun hal ini tidak sepenuhnya benar. Risiko penyakit kardiovaskular di kalangan perempuan, terutama perempuan…
Kota New York Akan Mengakhiri Ribuan Pekerja Kota… Topline New York City diperkirakan akan memecat hingga 4.000 pegawai kota pada hari Jumat karena mereka menolak untuk mematuhi mandat vaksin pemerintah kota, menyusul melalui persyaratan vaksin setelah mengundang kontroversi…
Mengapa agen California menggugat Tesla Pekerja kulit hitam di pabrik Tesla Fremont, California menjadi sasaran penghinaan rasial dan didiskriminasi dalam penugasan kerja, gaji, dan promosi, pengaduan yang diajukan oleh badan pengatur California pada Rabu (9…
RUU NYC melarang alat perekrutan AI yang gagal dalam… Kota New York dapat segera mengurangi kemungkinan bias AI di pasar kerja. Associated Press mencatat dewan kota telah mengesahkan undang-undang yang melarang sistem perekrutan AI yang tidak lulus audit tahunan…
RUU NYC melarang alat perekrutan AI yang gagal dalam… Kota New York dapat segera mengurangi kemungkinan bias AI di pasar kerja. Associated Press mencatat dewan kota telah mengesahkan undang-undang yang melarang sistem perekrutan AI yang tidak lulus audit tahunan…
Instagram Memotong Ketergantungan pada Data… Meta, wajah baru Facebook, telah berjuang selama berbulan-bulan untuk mengembangkan strategi iklan yang tidak bergantung pada data pribadi pengguna setelah parade pertempuran hukum yang terus berlanjut. Setelah melompati lingkaran demi…
Kreator kulit hitam menandatangani surat terbuka… Sekelompok pembuat konten Black Twitch telah merilis surat terbuka yang menuntut agar platform streaming itu berbuat lebih banyak untuk melindungi streamer minoritas dari serangan kebencian dan pelecehan. Surat itu ditulis…
Bagaimana hot flash mempengaruhi tidur? Apa itu hot flashes? Hot flashes (juga disebut keringat malam saat terjadi di malam hari) melibatkan peningkatan suhu tubuh secara tiba-tiba dan dapat terjadi dengan: Aliran air - drainase berkeringat…
Wanita kulit hitam sering menderita dalam diam… Kisah Shannon Shelton MillerSebelum tahun 2020, menopause adalah salah satu tahap kehidupan yang benar-benar tidak Anda ketahui. Satu-satunya hal yang saya dengar ibu saya katakan tentang itu adalah, "Aku tersedak."…
Rahasia Kulit Wajah Bersih dan Sehat: Panduan Gaya… Cara Menjaga Kesehatan Kulit Wajah Secara Alami Semua orang pasti ingin memiliki kulit wajah yang sehat dan bercahaya. Namun, tidak semua orang tahu cara menjaganya dengan baik. Akibatnya, kulit wajah…
Di mana membeli CPU 'Alder Lake' generasi… Gordon Mah Ung Pengecer mulai mengungkapkan harga jalanan dan ketersediaan untuk prosesor Intel Core "Alder Lake" generasi ke-12 yang baru, dan meskipun tidak aneh, mereka 'tidak terlalu cantik baik. CPU…
Pentingnya dokter kulit hitam: perawatan kulit harus… Kantor dokter gigi adalah tempat terakhir yang saya harapkan untuk waspada terhadap kanker kulit. Ketika ahli kebersihan saya mengangkat rambut saya dari telinga saya selama pemeriksaan kepala dan leher, saya…
Rahasia Video FYP di Facebook: Taklukkan Algorithm… Tips Membuat Video FYP di Facebook: Strategi Ampuh untuk Menjangkau Lebih Banyak Penonton Apakah Anda ingin video Anda lebih sering muncul di Beranda Facebook? Jika ya, Anda perlu mengetahui tips…
Dokter kulit menjelaskan bahwa itu adalah mitos… Ditulis oleh Adewole S. Universitas Texas di AustinMelanoma adalah bentuk kanker kulit mematikan yang menyerang orang-orang dari setiap kelompok ras dan etnis. Faktor risiko yang paling terkait dengan perkembangan kanker…
Pertukaran Crypto Korea Selatan Melarang Alamat IP… Para ahli mencatat bahwa keyakinan bahwa Rusia dapat menggunakan mata uang kripto untuk menghindari sanksi mungkin salah karena lonjakan harga Bitcoin tidak dapat dikaitkan dengan orang Rusia yang membeli lebih…
Bias rasial dalam rekening medis dapat menyebabkan… April Bulan Kesehatan Minoritas Nasional.Termometer dahi dan oksimeter nadi telah lama digunakan untuk menilai kesehatan pasien. Tetapi pada hari-hari awal pandemi Covid-19, mereka menjadi lebih penting. Jika pembacaan dari oksimeter…
Bagaimana hidup dengan fibroid memengaruhi seluruh orang Fibroid rahim sering terjadi. Kebanyakan wanita akan memiliki setidaknya satu fibroid di beberapa titik, tetapi wanita kulit hitam memiliki tingkat tertinggi. 7 dari 10 wanita kulit putih dan 8 dari…
Mengapa orang kulit berwarna lebih mungkin meninggal… Ketika Jacqueline Smith menjadi sukarelawan di acara-acara untuk mempromosikan pentingnya skrining kanker kulit, dia akan menawarkan tabir surya kepada siapa saja yang mampir ke meja atau stannya. Smith berkata dia…
Selama Bertahun-tahun, Investor Telah Mengabaikan… Harlem Capital telah menetapkan tujuan yang sangat berani untuk perusahaan modal ventura: Berinvestasi pada 1.000 pendiri yang beragam selama 20 tahun ke depan. Mitra pengelola Henri Pierre-Jacques sangat menyadari bahwa…