Gerakan untuk meminta pertanggungjawaban AI mendapatkan lebih banyak tenaga

The movement to hold AI accountable gains more steam

Algoritma memainkan peran yang berkembang dalam kehidupan kita, bahkan karena kekurangan mereka menjadi lebih jelas: seorang pria Michigan yang dituduh melakukan penipuan harus mengajukan kebangkrutan; alat penyaringan otomatis secara tidak proporsional merugikan orang kulit berwarna yang ingin membeli rumah atau menyewa apartemen; Pengguna Facebook kulit hitam mengalami lebih banyak pelecehan daripada pengguna kulit putih. Sistem otomatis lainnya telah menilai guru, siswa, dan menandai orang berkulit gelap lebih sering karena menyontek saat ujian.

Sekarang, upaya sedang dilakukan untuk lebih memahami caranya AI bekerja dan meminta pertanggungjawaban pengguna. Dewan Kota New York bulan lalu mengadopsi undang-undang yang mewajibkan audit algoritma yang digunakan oleh pemberi kerja dalam perekrutan atau promosi. Undang-undang, yang pertama dari jenisnya di negara ini, mengharuskan pengusaha untuk membawa orang luar untuk menilai apakah suatu algoritme menunjukkan bias berdasarkan jenis kelamin, ras, atau etnis. Pengusaha juga harus memberi tahu pelamar kerja yang tinggal di New York ketika kecerdasan buatan berperan dalam memutuskan siapa yang akan dipekerjakan atau dipromosikan.

Di Washington, DC, anggota Kongres sedang menyusun RUU yang akan mengharuskan bisnis untuk mengevaluasi sistem pengambilan keputusan otomatis yang digunakan di berbagai bidang seperti perawatan kesehatan, perumahan, pekerjaan, atau pendidikan, dan melaporkan temuannya ke Komisi Perdagangan Federal; tiga dari lima anggota FTC mendukung regulasi algoritma yang lebih kuat. Bill of Rights AI yang diusulkan bulan lalu oleh Gedung Putih menyerukan pengungkapan ketika AI membuat keputusan yang berdampak pada hak-hak sipil seseorang, dan dikatakan bahwa sistem AI harus “diaudit dengan hati-hati” untuk akurasi dan bias, antara lain.

Di tempat lain, anggota parlemen Uni Eropa sedang mempertimbangkan undang-undang yang mewajibkan pemeriksaan AI yang dianggap berisiko tinggi dan membuat daftar publik untuk sistem berisiko tinggi. Negara-negara termasuk China, Kanada, Jerman, dan Inggris juga telah mengambil langkah-langkah untuk mengatur AI dalam beberapa tahun terakhir.

Julia Stoyanovich, seorang profesor di Universitas New York yang bertugas di Gugus Tugas Sistem Keputusan Otomatis Kota New York, mengatakan bahwa dia dan para siswa baru-baru ini memeriksa alat perekrutan dan menemukan bahwa alat itu memberi nilai kepribadian yang berbeda kepada orang-orang berdasarkan program perangkat lunak yang mereka gunakan untuk membuat resume mereka. Studi lain menemukan bahwa algoritme perekrutan menyukai pelamar berdasarkan di mana mereka pergi ke sekolah, aksen mereka, apakah mereka memakai kacamata, atau apakah ada rak buku di latar belakang.

Stoyanovich mendukung persyaratan pengungkapan dalam undang-undang Kota New York, tetapi dia mengatakan persyaratan audit cacat karena hanya berlaku untuk diskriminasi berdasarkan jenis kelamin atau ras. Dia mengatakan algoritme yang menilai orang berdasarkan font dalam resume mereka akan diterima di bawah hukum karena tidak mendiskriminasi atas dasar itu.

“Beberapa alat-alat ini benar-benar tidak masuk akal,” katanya. “Ini adalah hal-hal yang benar-benar harus kita ketahui sebagai anggota masyarakat dan sebagai manusia. Kita semua akan melamar pekerjaan di beberapa titik.”

Beberapa pendukung pengawasan yang lebih ketat mendukung audit wajib atas algoritma yang serupa dengan audit keuangan perusahaan. Lainnya lebih suka “penilaian dampak” mirip dengan laporan dampak lingkungan. Kedua kelompok setuju bahwa lapangan sangat membutuhkan standar tentang bagaimana tinjauan tersebut harus dilakukan dan apa yang harus mereka sertakan. Tanpa standar, bisnis dapat terlibat dalam “pencucian etika” dengan mengatur audit yang menguntungkan. Para pendukung mengatakan bahwa tinjauan tidak akan menyelesaikan semua masalah yang terkait dengan algoritme, tetapi mereka akan membantu membuat pembuat dan pengguna AI bertanggung jawab secara hukum.

Laporan yang akan datang oleh Algorithmic Justice League (AJL), sebuah lembaga nonprofit swasta, merekomendasikan untuk mewajibkan pengungkapan saat model AI digunakan dan membuat repositori publik untuk insiden di mana AI menyebabkan kerugian. Repositori dapat membantu auditor menemukan potensi masalah dengan algoritme dan membantu regulator menyelidiki atau mendenda pelanggar berulang. Salah satu pendiri AJL, Joy Buolamwini, ikut menulis audit berpengaruh tahun 2018 yang menemukan algoritme pengenalan wajah bekerja paling baik pada pria kulit putih dan terburuk pada wanita dengan kulit gelap.

Baca selengkapnya

Rekomendasi:

Rahasia Kulit Putih Alami: Temukan Kulit Cerah dan… Mendapatkan Kulit Putih Alami tanpa Efek Samping Di tengah tuntutan kecantikan modern, memiliki kulit putih alami menjadi salah satu dambaan banyak orang. Kulit putih seringkali dianggap sebagai simbol kecantikan dan…
Apakah Kebijakan Keuangan Anda Cukup Kuat untuk… Ketika setiap sen berharga, mendapatkan kendali atas keuangan bisnis kecil Anda adalah perhatian utama. Perusahaan kecil harus menjalankan kapal yang ketat, sehingga proses keuangan harus efisien, aman, dan terkendali untuk…
Rahasia Wajah Putih Berseri: Tips Alami untuk Kulit… Hai semuanya! Siapa yang di sini ingin memiliki kulit putih alami yang sehat dan cerah? Pasti banyak sekali ya? Kulit putih alami tidak hanya menjadi dambaan wanita, tetapi juga pria.…
RUU NYC melarang alat perekrutan AI yang gagal dalam… Kota New York dapat segera mengurangi kemungkinan bias AI di pasar kerja. Associated Press mencatat dewan kota telah mengesahkan undang-undang yang melarang sistem perekrutan AI yang tidak lulus audit tahunan…
DEI Tidak Cukup; Perusahaan Membutuhkan Kepemimpinan… 15 Maret 2022 Selama beberapa tahun terakhir di Amerika Serikat, kita telah melihat beberapa contoh mengerikan dari rasisme merebut kesadaran publik. Di tengah semua tragedi ini – dan protes yang…
Mengapa perawatan HIV tidak menjangkau mereka yang… Hydeia Broadbent tidak pernah tahu hidup tanpa HIV. HIV lahir pada tahun 1984, dan virus Broadbent berkembang menjadi Acquired Immunodeficiency Syndrome (AIDS), yang berarti jumlah sel T (sel darah putih…
Bagaimana hidup dengan fibroid memengaruhi seluruh orang Fibroid rahim sering terjadi. Kebanyakan wanita akan memiliki setidaknya satu fibroid di beberapa titik, tetapi wanita kulit hitam memiliki tingkat tertinggi. 7 dari 10 wanita kulit putih dan 8 dari…
RUU NYC melarang alat perekrutan AI yang gagal dalam… Kota New York dapat segera mengurangi kemungkinan bias AI di pasar kerja. Associated Press mencatat dewan kota telah mengesahkan undang-undang yang melarang sistem perekrutan AI yang tidak lulus audit tahunan…
Ras dan keuangan: perangkap pinjaman mahasiswa Terima pembaruan masyarakat AS gratisKami akan mengirimkan email pembulatan myFT Daily Digest up berita masyarakat AS terbaru setiap pagi. Ini adalah yang kedua dari serangkaian artikel yang membahas ras dan…
Apa yang Harus Dipelajari oleh Setiap Pemimpin… Bulan lalu, Jon Gruden mengundurkan diri sebagai pelatih kepala Las Vegas Raiders setelah serangkaian email meresahkan menjadi publik. Email yang berasal dari 2011 hingga 2018 ketika pelatih bekerja untuk ESPN,…
Bagaimana hot flash mempengaruhi tidur? Apa itu hot flashes? Hot flashes (juga disebut keringat malam saat terjadi di malam hari) melibatkan peningkatan suhu tubuh secara tiba-tiba dan dapat terjadi dengan: Aliran air - drainase berkeringat…
Ketika Stigma Membunuh - Kesehatan Wanita Juli Bulan kesadaran kesehatan mental untuk minoritas nasional. Pada 14 Februari 1995, Fonda Bryant siap mati. Berencana untuk keluar dari hidupnya hari itu, dia menelepon bibinya Spanky untuk terakhir kalinya,…
Bertanggung jawab atas diagnosis kanker payudara… Kanker payudara adalah jenis kanker yang paling umum di kalangan wanita, selain kanker kulit - ini berarti Anda mungkin mengenal seseorang yang pernah terkena kanker payudara.Meskipun diagnosis kanker dianggap menakutkan,…
Bias rasial dalam rekening medis dapat menyebabkan… April Bulan Kesehatan Minoritas Nasional.Termometer dahi dan oksimeter nadi telah lama digunakan untuk menilai kesehatan pasien. Tetapi pada hari-hari awal pandemi Covid-19, mereka menjadi lebih penting. Jika pembacaan dari oksimeter…
Sebuah Kata Peringatan untuk Tenaga Kerja… Menjelang peringatan dua tahun awal pandemi COVID-19, saya mengingat kembali berapa kali saya ditanya oleh klien dan kolega tentang apakah tenaga kerja TI jarak jauh akan menjadi pekerja sementara atau…
Saya salah berpikir bahwa ras membuat saya kebal… Seperti yang diceritakan kepada Nicole Audrey SpectorSaya dibesarkan di rumah tangga di mana tabir surya jarang dibicarakan dan jarang digunakan. Faktanya, yang terjadi justru sebaliknya: Kami mandi dengan minyak tanning…
Bagaimana audit SEO teknis dapat menguntungkan situs… Setiap orang mendukung perusahaan yang sukses. Tetapi strategi pemasaran digital yang berbeda akan bekerja dengan baik untuk bisnis yang berbeda. Performa SEO itu penting dan di situlah audit SEO teknis…
Mengapa wanita kulit berwarna memiliki hasil yang… Pada tahun 2013, Catrice Nolen, seorang wanita kulit hitam berusia 47 tahun di Virginia Utara, memperhatikan bahwa salah satu payudaranya terasa bengkak. Dia menelepon dokternya dan dikirim untuk mammogram. Hasilnya…
Nasihat dokter kulit untuk wanita kulit berwarna Kita semua harus mencintai kulit tempat kita hidup. Meskipun banyak wanita memiliki tujuan yang sama dalam hal perawatan kulit—mulai dari menemukan pelembap yang tepat hingga menangani kondisi kulit yang umum—wanita…
percakapan dengan dr. Octavia Cannon tentang… Meskipun menopause adalah bagian normal dari penuaan, banyak wanita merasa tidak siap untuk perubahan fisik dan mental yang datang dengan tahap kehidupan ini. Bagi banyak wanita kulit berwarna, transisi ke…
Amazon dan Starbucks mulai memberi pekerja berupah… Setelah berabad-abad berada di bawah kendali jadwal majikan mereka, pekerja berupah rendah akhirnya memiliki kekuatan tawar untuk menuntut tunjangan yang disediakan untuk pekerja kerah putih: jam kerja yang fleksibel.Dengan tujuan…
Wanita kulit hitam lebih mungkin meninggal karena… Pada 2012, Adrienne Moore memperhatikan bahwa siklus menstruasinya berubah. Menstruasinya menjadi tidak teratur, dan dia datang dengan pendarahan hebat dan kram parah pada saat mereka tiba. Penyedia layanan kesehatan telah…
10 makanan untuk kulit sehat dan cantik Seperti yang mereka katakan, "Kamu adalah apa yang kamu makan." Klise, ya. Ini memang benar. Karena kulit adalah organ terbesar kita, tidak mengherankan jika kulit adalah bagian pertama dari tubuh…
Beberapa Zat Yang Terkandung Dalam Skincare Memiliki kulit wajah yang halus, lembab, dan cerah adalah impian semua orang, terutama wanita. Oleh karena itu banyak upaya dilakukan untuk mewujudkannya, salah satunya secara rutin menggunakan perawatan kulit atau…
Wanita kulit hitam sering menderita dalam diam… Seperti yang diceritakan oleh Shannon Shelton Miller Sebelum tahun 2020, menopause adalah salah satu gaya hidup yang sama sekali tidak saya ketahui. Yang paling sering saya dengar dari ibu saya…
Menavigasi Lautan Digital: Peran Perangkat Lunak… Dunia transaksi online sangatlah luas, bagaikan lautan yang tak berujung. Saat dunia usaha menavigasi lautan digital ini, mereka terus-menerus mewaspadai pembajak – yaitu penipu yang ingin mengeksploitasi kerentanan. Bertindak sebagai…
RUU NYC melarang alat perekrutan AI yang gagal dalam… Kota New York dapat segera mengurangi kemungkinan bias AI di pasar kerja. Associated Press mencatat dewan kota telah mengesahkan undang-undang yang melarang sistem perekrutan AI yang tidak lulus audit tahunan…
Bagaimana Mengerjakan Setiap Jenis Penjangkauan Pendapat yang dikemukakan oleh kontributor Entrepreneur adalah milik mereka sendiri. Penjangkauan adalah aspek bisnis yang sangat besar. Semua editor atau pemilik perusahaan mendapatkan beberapa bentuk email penjangkauan. Meskipun beberapa bidang…
Mengapa orang kulit berwarna lebih mungkin meninggal… Saat Jacqueline Smith menjadi sukarelawan di acara yang mempromosikan pentingnya skrining kanker kulit, dia menawarkan tabir surya kepada semua orang yang mengunjungi kios atau stannya. Jacqueline berkata dia mendengar, "Tidak,…
Apa pengaruh eksim terhadap kesehatan seksual? Maria Woodson, seorang pengusaha wanita berusia 30 tahun dari Los Angeles, menderita eksim (juga dikenal sebagai dermatitis atopik) sejak dia berusia 20 tahun. “Saya tidak bercanda, tangan dan leher saya…