AI Weekly: Watson Health dan kegagalan mengemudi semi-otonom menunjukkan bahaya dari terlalu menjanjikan AI

Apakah Anda melewatkan sesi dari Future of Work Summit? Kunjungi perpustakaan sesuai permintaan Future of Work Summit kami untuk streaming.

---

Minggu ini di AI, kenyataan datang mengetuk — baik untuk teknologi kesehatan AI dan sistem mengemudi semi-otonom. IBM setuju untuk menjual aset dari bisnis Watson Health-nya ke perusahaan investasi Francisco Partners, menyusul penurunan tajam kinerja divisi tersebut. Sementara itu, Institut Asuransi untuk Keselamatan Jalan Raya (IIHS), sebuah organisasi nirlaba yang dibiayai oleh industri asuransi, mengumumkan program pemeringkatan baru yang dirancang untuk mengevaluasi seberapa baik sistem otomasi “sebagian” seperti Tesla’s Autopilot memberikan perlindungan untuk mencegah penyalahgunaan.

Perkembangan kembar merupakan simbol dari masalah abadi industri AI: mengakui keterbatasan AI. Jeffrey Funk dan Gary Smith dari Slate melakukan pekerjaan menyeluruh untuk merangkum prediksi AI yang terlalu optimis dalam beberapa tahun terakhir, termasuk pernyataan Ray Kurzweil bahwa komputer akan memiliki kecerdasan “tingkat manusia” dan “kemampuan untuk menceritakan lelucon, menjadi lucu, menjadi romantis. , untuk mencintai, menjadi seksi” pada tahun 2029.

Seperti yang akan dikonfirmasi oleh ahli mana pun, AI sama sekali tidak mendekati kecerdasan tingkat manusia — emosional atau sebaliknya. (Perkiraan baru Kurzweil adalah 2045.) Demikian pula, mobil otonom dan perawatan kesehatan yang digerakkan oleh AI belum mencapai ketinggian yang pernah dibayangkan oleh para futuris yang akan mereka capai. Ini adalah pelajaran penting dalam menetapkan ekspektasi — bagaimanapun juga, masa depan tidak mudah diprediksi — tetapi juga merupakan contoh bagaimana mengejar keuntungan melampaui siklus hype. Di bawah tekanan untuk menunjukkan ROI, beberapa perusahaan teknologi kesehatan dan kendaraan otonom telah runtuh di bawah beban janji mereka yang berlebihan, seperti yang ditunjukkan oleh berita minggu ini.

Mengendarai kemenangan Watson melawan Bahaya! juara Ken Jennings, IBM meluncurkan Watson Health pada tahun 2015, memposisikan rangkaian layanan bertenaga AI sebagai masa depan augmented care. Promosi penjualan perusahaan adalah bahwa Watson Health dapat menganalisis rim data medis – jauh lebih cepat daripada yang bisa dilakukan oleh dokter manusia mana pun, untuk menghasilkan wawasan yang meningkatkan hasil kesehatan.

IBM dilaporkan menghabiskan $4 miliar untuk meningkatkan divisi Watson Health dengan akuisisi, tetapi teknologi tersebut terbukti paling tidak efisien — dan paling buruk berbahaya. Laporan STAT menemukan bahwa platform sering kali memberikan saran pengobatan kanker yang buruk dan tidak aman karena model Watson Health dilatih menggunakan catatan medis sintetis yang salah daripada data pasien yang sebenarnya.

Kematian Watson Health dapat sebagian dikaitkan dengan prioritas pergeseran CEO IBM Arvind Krishna, tetapi sinisme yang berkembang tentang kemampuan kesehatan AI tidak diragukan lagi juga memainkan peran. Penelitian telah menunjukkan bahwa hampir semua kumpulan data penyakit mata berasal dari pasien di Amerika Utara, Eropa, dan China, yang berarti algoritma diagnosis penyakit mata kurang pasti berfungsi dengan baik untuk kelompok ras dari negara-negara yang kurang terwakili. Sebuah audit dari algoritma UnitedHealth Group menentukan bahwa itu bisa meremehkan setengah dari jumlah pasien kulit hitam yang membutuhkan perawatan yang lebih besar. Dan semakin banyak pekerjaan menunjukkan bahwa algoritme pendeteksi kanker kulit cenderung kurang tepat bila digunakan pada pasien kulit hitam, sebagian karena model AI sebagian besar dilatih pada gambar pasien berkulit terang.

Sistem mengemudi semi-otonom, bertenaga AI juga mendapat sorotan serupa, terutama karena produsen mobil meningkatkan peluncuran produk yang mereka klaim hampir dapat mengendarai mobil sendiri. Pada Oktober 2021, Tesla diperintahkan untuk menyerahkan data ke Administrasi Keselamatan Lalu Lintas Jalan Raya Nasional sebagai bagian dari penyelidikan terhadap mobil perusahaan yang menabrak kendaraan yang diparkir. Kecurigaan adalah bahwa Autopilot Tesla bertanggung jawab – baik sebagian atau seluruhnya – atas perilaku berbahaya tersebut.

Ini bukan asumsi yang tidak masuk akal. Akhir tahun lalu, Tesla meluncurkan pembaruan ke Autopilot dengan bug yang menyebabkan sistem pengereman otomatis di Teslas bekerja tanpa alasan yang jelas. Hal ini menyebabkan mobil melambat dengan cepat saat mereka berjalan di jalan raya, menempatkan mereka pada risiko ditabrak dari belakang.

Tesla bukan satu-satunya vendor yang berjuang untuk menyempurnakan teknologi mobil semi-otonom. Sebuah studi serius tahun 2020 dari American Automobile Association menemukan bahwa sebagian besar sistem semi-otonom di pasar – termasuk yang dari Kia dan BMW – mengalami masalah rata-rata setiap delapan mil. Misalnya, ketika menghadapi kendaraan cacat, sistem menyebabkan tabrakan 66% dari waktu.

Pada tahun 2016, GM terpaksa menunda peluncuran fitur Super Cruise-nya karena masalah yang tidak ditentukan. Ford baru-baru ini menunda sistem BlueCruise untuk “menyederhanakan” teknologi.

Itu membawa kita ke berita minggu ini: program peringkat Institut Asuransi untuk mengevaluasi perlindungan keamanan sistem semi-otonom. Kelompok ini berharap akan mendorong pembuat mobil untuk membuat desain yang lebih baik setelah peringkat pertama, yang saat ini dalam pengembangan, dikeluarkan tahun ini.

“Cara banyak dari sistem ini beroperasi memberikan kesan bahwa mereka mampu melakukan lebih dari yang sebenarnya,” kata ilmuwan riset Institut Asuransi Alexandra Mueller dalam sebuah pernyataan. “Tetapi bahkan ketika pengemudi memahami keterbatasan otomatisasi parsial, pikiran mereka masih bisa mengembara. Sebagai manusia, lebih sulit bagi kita untuk tetap waspada ketika kita menonton dan menunggu masalah terjadi daripada ketika kita melakukan semua mengemudi sendiri.”

Itulah semua untuk mengatakan bahwa AI — apakah mengemudi sendiri atau mendiagnosis penyakit — bisa salah, sama seperti manusia yang mendesainnya. Visi masa depan Jetsons mungkin menggiurkan, tetapi ketika nyawa dipertaruhkan, sejarah telah menunjukkan bahwa yang terbaik adalah berhati-hati.

Untuk liputan AI, kirim kiat berita ke Kyle Wiggers — dan pastikan untuk berlangganan buletin AI Weekly dan menandai saluran AI kami, Mesin.

Terima kasih telah membaca,

Kyle Wiggers

Staf Senior Penulis