Gerakan untuk meminta pertanggungjawaban AI mendapatkan lebih banyak tenaga

The movement to hold AI accountable gains more steam

Algoritma memainkan peran yang berkembang dalam kehidupan kita, bahkan karena kekurangan mereka menjadi lebih jelas: seorang pria Michigan yang dituduh melakukan penipuan harus mengajukan kebangkrutan; alat penyaringan otomatis secara tidak proporsional merugikan orang kulit berwarna yang ingin membeli rumah atau menyewa apartemen; Pengguna Facebook kulit hitam mengalami lebih banyak pelecehan daripada pengguna kulit putih. Sistem otomatis lainnya telah menilai guru, siswa, dan menandai orang berkulit gelap lebih sering karena menyontek saat ujian.

Sekarang, upaya sedang dilakukan untuk lebih memahami caranya AI bekerja dan meminta pertanggungjawaban pengguna. Dewan Kota New York bulan lalu mengadopsi undang-undang yang mewajibkan audit algoritma yang digunakan oleh pemberi kerja dalam perekrutan atau promosi. Undang-undang, yang pertama dari jenisnya di negara ini, mengharuskan pengusaha untuk membawa orang luar untuk menilai apakah suatu algoritme menunjukkan bias berdasarkan jenis kelamin, ras, atau etnis. Pengusaha juga harus memberi tahu pelamar kerja yang tinggal di New York ketika kecerdasan buatan berperan dalam memutuskan siapa yang akan dipekerjakan atau dipromosikan.

Di Washington, DC, anggota Kongres sedang menyusun RUU yang akan mengharuskan bisnis untuk mengevaluasi sistem pengambilan keputusan otomatis yang digunakan di berbagai bidang seperti perawatan kesehatan, perumahan, pekerjaan, atau pendidikan, dan melaporkan temuannya ke Komisi Perdagangan Federal; tiga dari lima anggota FTC mendukung regulasi algoritma yang lebih kuat. Bill of Rights AI yang diusulkan bulan lalu oleh Gedung Putih menyerukan pengungkapan ketika AI membuat keputusan yang berdampak pada hak-hak sipil seseorang, dan dikatakan bahwa sistem AI harus “diaudit dengan hati-hati” untuk akurasi dan bias, antara lain.

Di tempat lain, anggota parlemen Uni Eropa sedang mempertimbangkan undang-undang yang mewajibkan pemeriksaan AI yang dianggap berisiko tinggi dan membuat daftar publik untuk sistem berisiko tinggi. Negara-negara termasuk China, Kanada, Jerman, dan Inggris juga telah mengambil langkah-langkah untuk mengatur AI dalam beberapa tahun terakhir.

Julia Stoyanovich, seorang profesor di Universitas New York yang bertugas di Gugus Tugas Sistem Keputusan Otomatis Kota New York, mengatakan bahwa dia dan para siswa baru-baru ini memeriksa alat perekrutan dan menemukan bahwa alat itu memberi nilai kepribadian yang berbeda kepada orang-orang berdasarkan program perangkat lunak yang mereka gunakan untuk membuat resume mereka. Studi lain menemukan bahwa algoritme perekrutan menyukai pelamar berdasarkan di mana mereka pergi ke sekolah, aksen mereka, apakah mereka memakai kacamata, atau apakah ada rak buku di latar belakang.

Stoyanovich mendukung persyaratan pengungkapan dalam undang-undang Kota New York, tetapi dia mengatakan persyaratan audit cacat karena hanya berlaku untuk diskriminasi berdasarkan jenis kelamin atau ras. Dia mengatakan algoritme yang menilai orang berdasarkan font dalam resume mereka akan diterima di bawah hukum karena tidak mendiskriminasi atas dasar itu.

“Beberapa alat-alat ini benar-benar tidak masuk akal,” katanya. “Ini adalah hal-hal yang benar-benar harus kita ketahui sebagai anggota masyarakat dan sebagai manusia. Kita semua akan melamar pekerjaan di beberapa titik.”

Beberapa pendukung pengawasan yang lebih ketat mendukung audit wajib atas algoritma yang serupa dengan audit keuangan perusahaan. Lainnya lebih suka “penilaian dampak” mirip dengan laporan dampak lingkungan. Kedua kelompok setuju bahwa lapangan sangat membutuhkan standar tentang bagaimana tinjauan tersebut harus dilakukan dan apa yang harus mereka sertakan. Tanpa standar, bisnis dapat terlibat dalam “pencucian etika” dengan mengatur audit yang menguntungkan. Para pendukung mengatakan bahwa tinjauan tidak akan menyelesaikan semua masalah yang terkait dengan algoritme, tetapi mereka akan membantu membuat pembuat dan pengguna AI bertanggung jawab secara hukum.

Laporan yang akan datang oleh Algorithmic Justice League (AJL), sebuah lembaga nonprofit swasta, merekomendasikan untuk mewajibkan pengungkapan saat model AI digunakan dan membuat repositori publik untuk insiden di mana AI menyebabkan kerugian. Repositori dapat membantu auditor menemukan potensi masalah dengan algoritme dan membantu regulator menyelidiki atau mendenda pelanggar berulang. Salah satu pendiri AJL, Joy Buolamwini, ikut menulis audit berpengaruh tahun 2018 yang menemukan algoritme pengenalan wajah bekerja paling baik pada pria kulit putih dan terburuk pada wanita dengan kulit gelap.

Baca selengkapnya

Rekomendasi:

Bagaimana Rasanya Menjadi Wanita Berwarna dalam Arsitektur Para peneliti yang mempelajari bias dalam industri arsitektur menemukan bahwa hal itu sama dengan industri lain yang telah mereka pelajari, termasuk hukum, sains, dan teknik. Mereka menemukan bahwa hanya seperempat…
DEI Tidak Cukup; Perusahaan Membutuhkan Kepemimpinan… 15 Maret 2022 Selama beberapa tahun terakhir di Amerika Serikat, kita telah melihat beberapa contoh mengerikan dari rasisme merebut kesadaran publik. Di tengah semua tragedi ini – dan protes yang…
Korban BitConnect dapat melanjutkan dengan gugatan… Beranda » Bisnis » Korban BitConnect dapat melanjutkan dengan gugatan vs promotor penipuan, aturan pengadilan banding Gugatan class action terhadap promotor penipuan mata uang digital BitConnect dapat dilanjutkan, pengadilan banding…
Hidup Dengan Lupus - Wanita Sehat Marisa Mays, 40, memiliki masalah kesehatan sejak pertengahan 20-an. Dia mulai dengan kehamilan pertamanya, ketika dia mengalami komplikasi dari fibroid, ditidurkan dan melahirkan prematur. "Sejak itu, hidup saya tidak benar-benar…
'Mereka mengecualikan saya': Pengakuan… Perhitungan media membawa gelombang keragaman internal baru, inisiatif kesetaraan dan inklusi dan evaluasi diri perusahaan tentang perwakilan ras dan etnis staf di sebagian besar organisasi media besar. Tetapi tanpa dukungan…
Lebih dari 30 karyawan Activision Blizzard telah… 37 Karyawan Activision Blizzard dilaporkan telah "keluar" dari perusahaan sejak Juli tahun lalu sebagai bagian dari upaya perusahaan untuk menindak masalah seputar pelecehan seksual, menurut dokumen internal yang diperoleh Wall…
Tim pemasaran meninjau kembali kesesuaian merek di… Merek dan orang ingin tahu bahwa aplikasi media sosial adalah tempat yang aman untuk terhubung, bebas dari paparan konten berbahaya. Kesesuaian merek menggambarkan praktik menentukan toleransi merek tertentu terhadap iklan…
'Bukti Signifikan': Jaksa Agung New York… Topline Jaksa Agung New York Letitia James pada hari Selasa menuduh Trump Organization salah menyatakan nilai beberapa aset untuk keuntungan ekonomi dan meminta pengadilan untuk memaksa Donald Trump dan dua…
Bagaimana orang India di internet memandang dukungan… Sementara banyak komentator Barat mengkritik pemerintah India karena tidak menentang invasi Rusia ke Ukraina, banyak orang India di internet telah menyatakan dukungannya untuk posisi New Delhi. Mereka telah menawarkan berbagai…
Solusi untuk kekurangan tenaga kerja: remaja? Bulan setelah laporan pertama tentang kekurangan tenaga kerja, bisnis merasakan dampaknya. Kurangnya pekerja telah memaksa bisnis untuk mengurangi jam kerja, membatasi layanan, dan bahkan menutup pintu mereka; bagi konsumen, hal…
RUU NYC melarang alat perekrutan AI yang gagal dalam… Kota New York dapat segera mengurangi kemungkinan bias AI di pasar kerja. Associated Press mencatat dewan kota telah mengesahkan undang-undang yang melarang sistem perekrutan AI yang tidak lulus audit tahunan…
Cara Screenshot di Laptop: Panduan Lengkap untuk… Pengantar Cara screenshot di laptop merupakan salah satu keterampilan dasar yang sangat berguna dalam berbagai situasi. Baik untuk keperluan kerja, pendidikan, atau sekadar berbagi informasi, mengetahui cara mengambil tangkapan layar…
Beberapa Zat Yang Terkandung Dalam Skincare Memiliki kulit wajah yang halus, lembab, dan cerah adalah impian semua orang, terutama wanita. Oleh karena itu banyak upaya dilakukan untuk mewujudkannya, salah satunya secara rutin menggunakan perawatan kulit atau…
Apa pengaruh eksim terhadap kesehatan seksual? Maria Woodson, Seks yang Baik 30 tahun dari Los Angeles, menderita eksim (juga dikenal sebagai dermatitis atopik) sejak dia berusia 20 tahun. “Saya tidak bercanda, tangan dan leher saya terlihat…
Ketika Stigma Membunuh - Kesehatan Wanita Juli Tempatkan diri Anda. Pada 14 Februari 1995, Resistensi Antimikroba (AMR):. Berencana untuk keluar dari hidupnya hari itu, dia menelepon bibinya Spanky untuk terakhir kalinya, seorang kerabat tiga tahun lebih…
Rahasia Wajah Putih Berseri: Tips Alami untuk Kulit… Hai semuanya! Siapa yang di sini ingin memiliki kulit putih alami yang sehat dan cerah? Naik Pangkat PNS ya? Kulit putih alami tidak hanya menjadi dambaan wanita, tetapi juga pria.…
Pemohon hipotek kulit hitam ditolak 84% lebih sering… SEATTLE, Jan. 13, 2022 /PRNewswire/ -- Tingkat kepemilikan rumah kulit hitam yang meningkat sebelum pandemi mulai turun lagi, didorong oleh kesenjangan persetujuan hipotek yang melebar antara pelamar kulit hitam dan…
Melanoma 101 - Faktor Risiko, Diagnosis, Tahapan,… Elizabeth Liotta, MDmelakukan tinjauan medis terhadap dokumen ini Kulit Anda adalah organ terbesar di tubuh Anda, jadi masuk akal jika kanker kulit adalah jenis kanker yang paling umum. Tapi tahukah…
Instagram Memotong Ketergantungan pada Data… Meta, wajah baru Facebook, telah berjuang selama berbulan-bulan untuk mengembangkan strategi iklan yang tidak bergantung pada data pribadi pengguna setelah parade pertempuran hukum yang terus berlanjut. Setelah melompati lingkaran demi…
Menavigasi Lautan Digital: Peran Perangkat Lunak… Dunia transaksi online sangatlah luas, bagaikan lautan yang tak berujung. Saat dunia usaha menavigasi lautan digital ini, mereka terus-menerus mewaspadai pembajak – yaitu penipu yang ingin mengeksploitasi kerentanan. Bertindak sebagai…
Meta menutup sistem pengenalan wajah Facebook Menerima pembaruan Facebook Inc gratisKami akan mengirimi Anda myFT Daily Digest pembulatan email up berita Facebook Inc terbaru setiap pagi.Meta akan menutup sistem pengenalan wajah Facebook dan menghapus data yang…
Bertanggung jawab atas diagnosis kanker payudara… Kanker payudara adalah jenis kanker yang paling umum di kalangan wanita, selain kanker kulit - ini berarti Anda mungkin mengenal seseorang yang pernah terkena kanker payudara.Meskipun diagnosis kanker dianggap menakutkan,…
Mengapa layanan medis HIV tidak menjangkau… Hydeia Broadbent tidak pernah tahu seperti apa hidup tanpa HIV.Ia dilahirkan dengan HIV, dan pada tahun 1984 virusnya bermutasi menjadi Acquired Immunodeficiency Syndrome (AIDS), menyebabkan jumlah sel T (sel darah…
Mengapa wanita kulit berwarna memiliki hasil yang… Pada tahun 2013, Catrice Nolen, seorang wanita kulit hitam berusia 47 tahun di Virginia Utara, memperhatikan bahwa salah satu payudaranya terasa bengkak. Dia menelepon dokternya dan dikirim untuk mammogram. Hasilnya…
Bisakah Anda menghasilkan uang dengan kata-kata?… Home » Wawancara » Dapatkah Anda menghasilkan uang dengan kata-kata? John Pitts menjelaskan caranya di CoinGeek Backstage Kamus telah menjadi bagian dari hidup kita. Kami menggunakannya sebagai sumber utama untuk…
Mengapa perawatan HIV tidak menjangkau mereka yang… Hydeia Broadbent tidak pernah tahu hidup tanpa HIV. HIV lahir pada tahun 1984, dan virus Broadbent berkembang menjadi Acquired Immunodeficiency Syndrome (AIDS), yang berarti jumlah sel T (sel darah putih…
Mengapa orang kulit berwarna lebih mungkin meninggal… Keputihan memberikan petunjuk di acara yang mempromosikan pentingnya skrining kanker kulit, dia menawarkan tabir surya kepada semua orang yang mengunjungi kios atau stannya. Jacqueline berkata dia mendengar, "Tidak, kamu tidak…
Dalam Berita: Ulasan Palsu Online Datang di Bawah… Ulasan palsu dapat berdampak buruk pada bisnis kecil. Dan Komisi Perdagangan Federal (FTC) siap untuk meminta pertanggungjawaban orang atau bisnis atas praktik ini. FTC Mengatakan Itu Menindak Tinjauan Palsu Online…
Trauma masa kecil dapat menyebabkan rasa sakit kronis Mengapa wanita kulit 8 tahun, dia mengalami lebih banyak trauma daripada yang dialami banyak orang dalam hidup mereka. Beberapa anggota keluarganya menderita penyakit mental, dan dia sering menyaksikan kekerasan dalam…
WhatsApp mulai menawarkan transfer uang Novi ke… Kembali pada bulan Oktober, Facebook (sekarang Meta) meluncurkan uji coba kecil dompet cryptocurrency Novi di AS dan Guatemala. Penguji percontohan telah dapat saling mengirim pembayaran pribadi melalui layanan sejak saat…