Tantangan Etis Mobil Berkendara Mandiri Akan Menghadapi Setiap Hari

Banyak diskusi dan pemikiran etis tentang mobil self-driving telah berfokus pada dilema yang tragis, seperti hipotesis di mana mobil harus memutuskan apakah akan menabrak sekelompok anak sekolah atau terjun dari tebing, membunuh penumpangnya sendiri. Tapi situasi semacam itu adalah kasus yang ekstrem.

Seperti kecelakaan terakhir - di mana sebuah mobil self-driving menewaskan seorang pejalan kaki di Tempe, Arizona - menunjukkan, situasi biasa, sehari-hari di setiap penyeberangan, belokan dan persimpangan menghadirkan banyak masalah etika yang lebih sulit dan lebih luas.

Etika ekstrem

Sebagai seorang filsuf yang bekerja dengan para insinyur di Pusat Penelitian Otomotif Stanford, saya awalnya terkejut bahwa kami menghabiskan pertemuan lab kami membahas apa yang saya pikir adalah pertanyaan mudah: Bagaimana seharusnya mobil yang bisa menyetir sendiri mendekati penyeberangan?

Asumsi saya adalah bahwa kita akan berpikir tentang bagaimana sebuah mobil harus memutuskan antara kehidupan para penumpangnya dan kehidupan para pejalan kaki. Saya tahu bagaimana memikirkan dilema seperti itu karena skenario tabrakan ini mirip dengan brainteaser filosofis terkenal yang disebut "masalah troli." bunuh satu untuk menyelamatkan lima?

Namun, banyak filsuf saat ini meragukan bahwa menyelidiki pertanyaan semacam itu adalah jalan penelitian yang bermanfaat. Barbara Fried, seorang kolega di Stanford, misalnya, berpendapat bahwa dilema tragis membuat orang percaya kebingungan etika sebagian besar muncul dalam keadaan yang ekstrem dan mengerikan.

Faktanya, kesulitan etika ada di mana-mana. Setiap hari, situasi duniawi ternyata berantakan dan kompleks, seringkali dengan cara yang halus. Misalnya: Haruskah kota Anda membelanjakan uang untuk program pencegahan diabetes atau lebih banyak pekerja sosial? Haruskah Departemen Kesehatan Masyarakat setempat Anda merekrut inspektur lain untuk standar kebersihan restoran, atau melanjutkan program yang menyediakan jarum dan persediaan injeksi gratis?

Pertanyaan-pertanyaan ini sangat sulit dijawab karena ketidakpastian tentang konsekuensinya - seperti siapa yang akan terpengaruh dan sampai sejauh mana. Solusi yang diajukan para filsuf untuk situasi ekstrem dan putus asa tidak banyak membantu di sini.

Masalahnya mirip dengan mobil self-driving. Memikirkan situasi ekstrim dan skenario tabrakan tidak dapat membantu menjawab pertanyaan yang muncul dalam situasi duniawi.

Sebuah tantangan di penyeberangan

Orang bisa bertanya, apa yang bisa begitu sulit tentang situasi lalu lintas duniawi seperti mendekati penyeberangan, mengemudi melalui persimpangan, atau berbelok ke kiri. Bahkan jika jarak pandang di penyeberangan terbatas dan kadang-kadang sulit untuk mengatakan apakah pejalan kaki di dekatnya benar-benar ingin menyeberang jalan, pengemudi mengatasi hal ini setiap hari.

Tetapi untuk mobil yang bisa menyetir sendiri, situasi duniawi seperti itu menimbulkan tantangan dalam dua cara.

Pertama, ada fakta bahwa apa yang mudah bagi manusia seringkali sulit untuk mesin. Apakah itu mengenali wajah atau mengendarai sepeda, kami pandai dalam tugas persepsi dan mekanik karena evolusi membangun keterampilan ini untuk kami. Namun, itu membuat keterampilan ini sulit untuk diajarkan atau direkayasa. Ini dikenal sebagai "Paradox Moravec."

Kedua, di masa depan di mana semua mobil adalah mobil self-driving, perubahan kecil pada perilaku mengemudi akan membuat perbedaan besar dalam agregat. Keputusan yang dibuat oleh para insinyur saat ini, dengan kata lain, akan menentukan bukan bagaimana satu mobil mengemudi tetapi bagaimana semua mobil mengemudi. Algoritma menjadi kebijakan.

Insinyur mengajarkan komputer bagaimana mengenali wajah dan benda menggunakan metode pembelajaran mesin. Mereka dapat menggunakan pembelajaran mesin juga untuk membantu mobil self-driving meniru cara manusia mengemudi. Tapi ini bukan solusi: Itu tidak menyelesaikan masalah bahwa berbagai keputusan tentang keselamatan dan mobilitas dibuat oleh para insinyur.

Lebih jauh lagi, mobil self-driving tidak boleh dikendarai seperti manusia. Manusia sebenarnya bukan pengemudi yang sangat baik. Dan mereka mengemudi dengan cara yang mengganggu etika, memutuskan apakah akan menghasilkan di penyeberangan, berdasarkan usia, ras, dan pendapatan pejalan kaki. Sebagai contoh, para peneliti di Portland telah menemukan bahwa pejalan kaki hitam dilewati oleh mobil dua kali lebih banyak dan harus menunggu sepertiga lebih lama dari pejalan kaki putih sebelum mereka dapat menyeberang.

Mobil self-driving harus dikendarai lebih aman, dan lebih adil daripada orang.

Etika duniawi

Masalah etika semakin dalam ketika Anda menghadiri konflik kepentingan yang muncul dalam situasi duniawi seperti penyeberangan, belokan, dan persimpangan.

Misalnya, desain mobil yang bisa menyetir sendiri perlu menyeimbangkan keselamatan orang lain - pejalan kaki atau pengendara sepeda - dengan kepentingan penumpang mobil. Begitu sebuah mobil melaju lebih cepat dari kecepatan berjalan, ia tidak dapat mencegah menabrak seorang anak yang mungkin berlari ke jalan di detik terakhir. Tetapi kecepatan berjalan tentu saja terlalu lambat. Semua orang perlu ke tempat. Jadi bagaimana seharusnya para insinyur mencapai keseimbangan antara keselamatan dan mobilitas? Dan kecepatan apa yang cukup aman?

Ada pertanyaan etis lain yang muncul juga. Para insinyur perlu melakukan pertukaran antara mobilitas dan dampak lingkungan. Ketika mereka diterapkan di semua mobil di negara ini, perubahan kecil dalam akselerasi yang dikendalikan komputer, menikung dan mengerem dapat memiliki efek besar pada penggunaan energi dan emisi polusi. Bagaimana seharusnya para insinyur menukar efisiensi perjalanan dengan dampak lingkungan?

Bagaimana seharusnya masa depan traffic?

Situasi duniawi menimbulkan rekayasa baru dan masalah etika, tetapi mereka juga membuat orang mempertanyakan asumsi dasar sistem lalu lintas.

Bagi saya sendiri, saya mulai mempertanyakan apakah kita memerlukan tempat yang disebut "penyeberangan"? Setelah semua, mobil self-driving berpotensi membuatnya aman untuk menyeberang jalan di mana saja.

Dan bukan hanya penyeberangan yang menjadi tidak perlu. Lampu lalu lintas di persimpangan bisa menjadi bagian dari masa lalu juga. Manusia membutuhkan lampu lalu lintas untuk memastikan semua orang bisa melintasi persimpangan tanpa kecelakaan dan kekacauan. Tapi mobil self-driving bisa berkoordinasi dengan mereka sendiri dengan lancar.

Pertanyaan yang lebih besar di sini adalah ini: Mengingat bahwa mobil self-driving lebih baik daripada pengemudi manusia, mengapa mobil harus tunduk pada aturan yang dirancang untuk kesalahan manusia dan kesalahan manusia? Dan untuk memperluas eksperimen pemikiran ini, pertimbangkan juga pertanyaan yang lebih umum: Jika kita, sebagai masyarakat, dapat merancang sistem lalu lintas kami dari awal, seperti apa bentuknya?

Karena pertanyaan-pertanyaan sulit ini menyangkut semua orang di kota atau di masyarakat, mereka membutuhkan kota atau masyarakat untuk menyetujui jawaban. Itu berarti menyeimbangkan kepentingan yang bersaing dengan cara yang bekerja untuk semua orang - apakah orang berpikir hanya tentang penyeberangan atau tentang sistem lalu lintas secara keseluruhan.

Dengan mobil self-driving, masyarakat dapat mendesain ulang sistem lalu lintas mereka. Dari penyeberangan ke desain lalu lintas secara keseluruhan - situasi biasa yang menimbulkan pertanyaan sangat sulit. Situasi ekstrem adalah gangguan.

Masalah troli tidak menjawab pertanyaan-pertanyaan sulit ini.

Johannes Himmelreich, Fellow Etika Interdisipliner, Stanford University McCoy Family Center for Ethics in Society