Kecerdasan buatan telah berkembang sejak R2-D2. Saat ini, sebagian besar milenium akan hilang tanpa sistem GPS pintar. Robot sudah menavigasi medan perang, dan drone mungkin segera mengirimkan paket Amazon ke depan pintu kami.
Siri dapat memecahkan persamaan yang rumit dan memberi tahu Anda cara memasak nasi. Dia bahkan telah membuktikan bahwa dia bahkan dapat menjawab pertanyaan dengan rasa humor.
Tetapi semua kemajuan ini tergantung pada pengguna yang memberikan arahan AI. Apa yang akan terjadi jika unit GPS memutuskan mereka tidak ingin pergi ke binatu, atau lebih buruk lagi, Siri memutuskan dia bisa menjadi lebih pintar tanpa Anda ada?
Penemuan Terakhir Kami: Kecerdasan Buatan dan Akhir Era Manusia. ">
Penemuan Terakhir kami: Kecerdasan Buatan dan Akhir Era Manusia. ">" Sebelum kita berbagi planet dengan mesin super-cerdas, kita harus mengembangkan ilmu untuk memahami mereka. Jika tidak, mereka akan mengambil kendali, "penulis James Barrat mengatakan tentang buku barunya, Our Final Invention: Inteligensi Buatan dan Akhir Era Manusia . (Atas perkenan James Barrat) Ini hanyalah hasil yang paling tidak disukai James Barrat, seorang penulis dan pembuat film dokumenter, memperkirakan dalam bukunya yang baru, Our Final Invention: Inteligen Buatan dan Akhir dari Era Manusia .
Tidak lama kemudian, kata Barrat, kecerdasan buatan — dari Siri ke drone dan sistem penambangan data — akan berhenti mencari peningkatan pada manusia dan mulai mencari peningkatan sendiri. Dan tidak seperti R2-D2s dan HALs dari fiksi ilmiah, AI masa depan kita tidak selalu ramah, katanya: mereka sebenarnya bisa menjadi apa yang menghancurkan kita.
Singkatnya, dapatkah Anda menjelaskan ide besar Anda?
Di abad ini, para ilmuwan akan menciptakan mesin dengan kecerdasan yang setara dan kemudian melampaui kita sendiri. Tetapi sebelum kita berbagi planet ini dengan mesin super-cerdas, kita harus mengembangkan ilmu untuk memahami mereka. Kalau tidak, mereka akan mengambil kendali. Dan tidak, ini bukan fiksi ilmiah.
Para ilmuwan telah menciptakan mesin yang lebih baik daripada manusia di catur, Jeopardy!, navigasi, penggalian data, pencarian, pembuktian teorema dan tugas-tugas lainnya yang tak terhitung jumlahnya. Akhirnya, mesin akan dibuat yang lebih baik daripada manusia di penelitian AI
Pada titik itu, mereka akan dapat meningkatkan kemampuan mereka sendiri dengan sangat cepat. Mesin yang memperbaiki diri ini akan mengejar tujuan yang mereka ciptakan, apakah itu eksplorasi ruang angkasa, bermain catur, atau memilih saham. Untuk berhasil mereka akan mencari dan mengeluarkan sumber daya, baik itu energi atau uang. Mereka akan berusaha menghindari mode kegagalan, seperti dimatikan atau dicabut. Singkatnya, mereka akan mengembangkan drive, termasuk perlindungan diri dan akuisisi sumber daya — drive seperti kita. Mereka tidak akan ragu untuk mengemis, meminjam, mencuri dan lebih buruk lagi untuk mendapatkan apa yang mereka butuhkan.
Bagaimana Anda tertarik dengan topik ini?
Saya seorang pembuat film dokumenter. Pada tahun 2000, saya mewawancarai penemu Ray Kurzweil, ahli robotik Rodney Brooks dan legenda fiksi ilmiah Arthur C. Clarke untuk sebuah film TLC tentang pembuatan novel dan film, 2001: A Space Odyssey. Wawancara mengeksplorasi ide tentang Hal 9000, dan komputer jahat. Buku-buku Kurzweil telah menggambarkan masa depan AI sebagai “singularitas, ” suatu periode di mana kemajuan teknologi melampaui kemampuan manusia untuk memahaminya. Namun dia mengantisipasi hanya hal-hal baik yang muncul dari AI yang cukup kuat untuk menyamai dan kemudian melampaui kecerdasan manusia. Dia memperkirakan bahwa kita akan dapat memprogram ulang sel-sel tubuh kita untuk mengalahkan penyakit dan penuaan. Kami akan mengembangkan daya tahan super dengan nanobot yang menghasilkan lebih banyak oksigen daripada sel darah merah. Kami akan membanjiri otak kami dengan implan komputer sehingga kami menjadi sangat cerdas. Dan kita akan memindahkan otak kita ke media yang lebih tahan lama daripada "alat basah" kita saat ini dan hidup selamanya jika kita mau. Brooks optimis, bersikeras bahwa robot yang ditingkatkan AI akan menjadi sekutu, bukan ancaman.
Sebaliknya, ilmuwan yang menjadi penulis Clarke pesimistis. Dia mengatakan kepada saya bahwa kecerdasan akan menang, dan manusia kemungkinan akan bersaing untuk bertahan hidup dengan mesin super-cerdas. Dia tidak spesifik tentang apa yang akan terjadi ketika kita berbagi planet ini dengan mesin super cerdas, tetapi dia merasa itu akan menjadi perjuangan bagi umat manusia bahwa kita tidak akan menang.
Itu bertentangan dengan semua yang saya pikirkan tentang AI, jadi saya mulai mewawancarai pakar kecerdasan buatan.
Bukti apa yang Anda miliki untuk mendukung ide Anda?
Kecerdasan artifisial canggih adalah teknologi penggunaan ganda, seperti fisi nuklir, yang mampu memberikan dampak baik atau sangat buruk. Kami baru mulai melihat bahayanya.
Skandal privasi NSA muncul karena NSA mengembangkan alat penambangan data yang sangat canggih. Agensi menggunakan kekuatannya untuk menyelami metadata jutaan panggilan telepon dan keseluruhan Internet — secara kritis, semua email. Tergoda oleh kekuatan data mining AI, sebuah lembaga yang dipercayakan untuk melindungi Konstitusi malah menyalahgunakannya. Mereka mengembangkan alat yang terlalu kuat untuk digunakan secara bertanggung jawab.
Hari ini, pertempuran etis lain sedang terjadi tentang membuat drone pembunuh yang sepenuhnya otonom dan robot medan perang yang ditenagai oleh AI-pembunuh manusia tanpa manusia dalam lingkaran. Ini sedang terjadi antara Departemen Pertahanan dan pembuat drone dan robot yang dibayar oleh DOD, dan orang-orang yang berpikir itu bodoh dan tidak bermoral untuk menciptakan mesin pembunuh yang cerdas. Mereka yang mendukung drone otonom dan robot medan perang berpendapat bahwa mereka akan lebih bermoral — yaitu, kurang emosional, akan menargetkan lebih baik dan lebih disiplin daripada operator manusia. Orang-orang yang menentang pengambilan manusia dari loop adalah melihat sejarah sengsara drone dalam membunuh warga sipil, dan keterlibatan dalam pembunuhan di luar hukum. Siapa yang memikul kesalahan moral ketika robot membunuh? Pembuat robot, pengguna robot, atau tidak ada? Nevermind rintangan teknis menceritakan teman dari musuh.
Dalam jangka panjang, seperti yang dikatakan oleh para ahli dalam buku saya , AI yang mendekati kecerdasan tingkat manusia tidak akan mudah dikendalikan; Sayangnya, kecerdasan super tidak menyiratkan kebajikan. Seperti yang dikatakan oleh ahli teori AI Eliezer Yudkowsky dari MIRI [Institut Penelitian Intelijen Mesin], "AI tidak mencintaimu, juga tidak membenci Anda, tetapi Anda terbuat dari atom yang dapat digunakan untuk hal lain." Jika etika tidak bisa dibangun menjadi sebuah mesin, maka kita akan menciptakan psikopat yang sangat cerdas, makhluk tanpa kompas moral, dan kita tidak akan menjadi tuan mereka lama.
Apa yang baru tentang pemikiran Anda?
Individu dan kelompok yang beragam seperti ilmuwan komputer Amerika Bill Joy dan MIRI telah lama memperingatkan bahwa kita memiliki banyak rasa takut dari mesin yang kecerdasannya melampaui kemampuan kita. Dalam Penemuan Terakhir Kami, saya berpendapat bahwa AI juga akan disalahgunakan di jalur pengembangan kecerdasan tingkat manusia. Antara hari ini dan hari ketika para ilmuwan menciptakan kecerdasan tingkat manusia, kita akan memiliki kesalahan terkait AI dan aplikasi kriminal.
Mengapa belum banyak yang dilakukan, atau, apa yang dilakukan untuk menghentikan AI agar tidak menghidupkan kita?
Tidak ada satu alasan, tetapi banyak. Beberapa ahli tidak percaya kita cukup dekat untuk menciptakan kecerdasan buatan tingkat manusia dan di luar itu untuk mengkhawatirkan risikonya. Banyak pembuat AI memenangkan kontrak dengan Badan Proyek Penelitian Pertahanan Tingkat Lanjut [DARPA] dan tidak ingin mengangkat masalah yang mereka anggap politis. Bias normalitas adalah bias kognitif yang mencegah orang bereaksi terhadap bencana dan bencana yang sedang terjadi — itu sudah pasti menjadi bagian darinya. Tetapi banyak pembuat AI melakukan sesuatu. Lihat para ilmuwan yang menyarankan MIRI. Dan, lebih banyak lagi yang akan terlibat setelah bahaya AI lanjut memasuki dialog arus utama.
Bisakah Anda menggambarkan momen ketika Anda tahu ini besar?
Kita manusia mengarahkan masa depan bukan karena kita makhluk tercepat atau terkuat di planet ini, tetapi karena kita yang paling cerdas. Saat kita berbagi planet ini dengan makhluk yang lebih pintar dari diri kita sendiri, mereka akan mengarahkan masa depan. Ketika saya memahami ide ini, saya merasa sedang menulis tentang pertanyaan paling penting di zaman kita.
Setiap pemikir besar memiliki pendahulu yang karyanya sangat penting untuk penemuannya. Siapa yang memberi Anda fondasi untuk membangun ide Anda?
Dasar-dasar analisis risiko AI dikembangkan oleh ahli matematika IJ Good, penulis fiksi ilmiah Vernor Vinge, dan lainnya termasuk pengembang AI Steve Omohundro. Saat ini, MIRI dan Future of Humanity Institute Oxford hampir sendirian dalam menangani masalah ini. Penemuan Terakhir kami memiliki sekitar 30 halaman catatan akhir yang mengakui para pemikir ini.
Dalam meneliti dan mengembangkan ide Anda, apa gunanya titik tertinggi? Dan titik rendahnya?
Poin utamanya adalah menulis Penemuan Terakhir Kami, dan dialog saya yang sedang berlangsung dengan pembuat AI dan ahli teori. Orang-orang yang memprogram AI menyadari masalah keselamatan dan ingin membantu memberikan perlindungan. Misalnya, MIRI berupaya menciptakan AI yang “ramah”
Ilmuwan dan ahli teori komputer Steve Omohundro telah menganjurkan pendekatan "perancah", di mana AI yang terbukti aman membantu membangun generasi AI berikutnya untuk memastikan bahwa itu juga aman. Kemudian AI melakukan hal yang sama, dan seterusnya. Saya pikir kemitraan publik-swasta harus dibuat untuk menyatukan pembuat AI untuk berbagi ide tentang keamanan — sesuatu seperti Badan Energi Atom Internasional, tetapi dalam kemitraan dengan perusahaan. Poin rendah? Menyadari bahwa teknologi AI terbaik dan tercanggih akan digunakan untuk membuat senjata. Dan senjata-senjata itu pada akhirnya akan berbalik melawan kita.
Dua atau tiga orang apa yang paling mungkin mencoba untuk membantah argumen Anda? Mengapa?
Penemu Ray Kurzweil adalah pembela utama teknologi canggih. Dalam dua wawancara saya dengannya, dia mengklaim bahwa kami akan berbaur dengan teknologi AI melalui peningkatan kognitif. Kurzweil dan orang-orang yang secara luas disebut transhumanis dan singulariter berpikir AI dan akhirnya kecerdasan umum buatan dan selanjutnya akan berkembang bersama kita. Misalnya, implan komputer akan meningkatkan kecepatan otak dan kemampuan keseluruhan. Akhirnya, kami akan mengembangkan teknologi untuk mengangkut kecerdasan dan kesadaran kami ke komputer. Maka kecerdasan super akan setidaknya sebagian manusia, yang secara teori akan memastikan kecerdasan super itu "aman."
Untuk banyak alasan, saya bukan penggemar sudut pandang ini. Masalahnya adalah, kita manusia tidak aman secara andal, dan tampaknya tidak mungkin manusia yang super cerdas juga. Kami tidak tahu apa yang terjadi pada etika manusia setelah kecerdasan mereka ditingkatkan. Kami memiliki dasar biologis untuk agresi yang tidak dimiliki mesin. Super-intelijen bisa menjadi pengganda agresi.
Siapa yang paling terpengaruh oleh gagasan ini?
Setiap orang di planet ini memiliki banyak ketakutan dari pengembangan mesin super-cerdas yang tidak diatur. Perlombaan intelijen sedang terjadi sekarang. Pencapaian AGI adalah pekerjaan nomor satu untuk Google, IBM dan banyak perusahaan kecil seperti Varian dan Pemikiran Jauh, serta DARPA, NSA dan pemerintah serta perusahaan di luar negeri. Keuntungan adalah motivasi utama untuk lomba itu. Bayangkan satu kemungkinan tujuan: otak manusia virtual dengan harga komputer. Ini akan menjadi komoditas yang paling menguntungkan dalam sejarah. Bayangkan ribuan otak berkualitas PhD bekerja 24/7 dalam pengembangan farmasi, riset kanker, pengembangan senjata, dan banyak lagi. Siapa yang tidak mau membeli teknologi itu?
Sementara itu, 56 negara sedang mengembangkan robot medan perang, dan dorongan untuk membuat mereka, dan drone, otonom. Mereka akan menjadi mesin yang membunuh, tanpa pengawasan oleh manusia. Negara-negara miskin akan paling dirugikan oleh drone otonom dan robot medan perang. Pada awalnya, hanya negara-negara kaya yang mampu membeli bot pembunuh otonom, sehingga negara-negara kaya akan menggunakan senjata-senjata ini terhadap tentara manusia dari negara-negara miskin.
Bagaimana itu bisa mengubah hidup, seperti yang kita tahu?
Bayangkan: hanya dalam satu dekade, setengah lusin perusahaan dan negara mengirimkan komputer yang menyaingi atau melampaui kecerdasan manusia. Bayangkan apa yang terjadi ketika komputer-komputer itu menjadi ahli dalam pemrograman komputer pintar. Sebentar lagi kita akan berbagi planet ini dengan mesin ribuan atau jutaan kali lebih pintar dari kita. Dan, sementara itu, setiap generasi dari teknologi ini akan dipersenjatai. Tidak diatur, itu akan menjadi bencana besar.
Pertanyaan apa yang belum terjawab?
Solusi. Solusi yang jelas adalah memberi mesin perasaan moral yang membuat mereka menghargai kehidupan dan harta benda manusia. Tapi pemrograman etika menjadi mesin ternyata sangat sulit. Norma moral berbeda dari satu budaya ke budaya lain, mereka berubah seiring waktu, dan mereka kontekstual. Jika kita manusia tidak dapat menyetujui kapan kehidupan dimulai, bagaimana kita bisa memberi tahu mesin untuk melindungi kehidupan? Apakah kita benar-benar ingin aman , atau apakah kita benar-benar ingin bebas ? Kita bisa berdebat sepanjang hari dan tidak mencapai konsensus, jadi bagaimana kita bisa memprogramnya?
Kami juga, seperti yang saya sebutkan sebelumnya, perlu menyatukan pengembang AI. Pada 1970-an, peneliti DNA rekombinan memutuskan untuk menunda penelitian dan berkumpul untuk konferensi di Asilomar di Pacific Grove, California. Mereka mengembangkan protokol keselamatan dasar seperti "jangan melacak DNA pada sepatu Anda, " karena takut mencemari lingkungan dengan pekerjaan genetik yang sedang berlangsung. Karena "Pedoman Asilomar, " dunia mendapat manfaat dari tanaman rekayasa genetika, dan terapi gen tampak menjanjikan. Sejauh yang kita tahu, kecelakaan dihindari. Sudah waktunya untuk Konferensi Asilomar untuk AI
Apa yang menghalangi?
Angin ekonomi yang besar mendorong pengembangan kecerdasan manusia tingkat lanjut AI dengan harga komputer akan menjadi komoditas terpanas dalam sejarah. Google dan IBM tidak akan mau berbagi rahasia mereka dengan publik atau pesaing. Departemen Pertahanan tidak akan mau membuka laboratorium mereka untuk China dan Israel, dan sebaliknya. Kesadaran publik harus mendorong kebijakan menuju keterbukaan dan kemitraan publik-swasta yang dirancang untuk memastikan keamanan.
Apa selanjutnya untuk Anda?
Saya pembuat film dokumenter, jadi tentu saja saya berpikir tentang versi film Our Final Invention .
