Tahun lalu, Facebook membuat dua chatbot dan meminta mereka untuk mulai berbicara satu sama lain, mempraktikkan keterampilan negosiasi mereka. Ternyata, bot itu cukup bagus dalam bernegosiasi — tetapi mereka melakukannya dengan menggunakan bahasa buatan mereka sendiri yang tidak bisa dipahami manusia.
Konten terkait
- Seniman ini Tinggal di Dunia Rahasia Rahasia dan Pengawasan
Di sinilah dunia akan pergi. Komputer menciptakan konten untuk satu sama lain, bukan kita. Gambar diambil oleh komputer, untuk dilihat dan ditafsirkan oleh komputer lain. Itu semua terjadi dengan tenang, seringkali tanpa sepengetahuan atau persetujuan kita.
Jadi belajar cara melihat seperti komputer — membuat komunikasi mesin-ke-mesin ini terlihat — mungkin merupakan keterampilan paling penting di abad ke-21.
Pada 25 Oktober 2018, Kuartet Kronos — David Harrington, John Sherba, Hank Dutt, dan Sunny Yang — memainkan konser di Museum Seni Amerika Smithsonian. Mereka disaksikan oleh 400 manusia dan selusin algoritma kecerdasan buatan, yang terakhir milik Trevor Paglen, artis di belakang pameran "Sites Unseen", yang saat ini dipajang di museum.
Ketika para musisi bermain, sebuah layar di atas mereka menunjukkan kepada kita manusia apa yang dilihat komputer.
Saat Kronos mencari jalan melalui karya sedih yang berasal dari Kekaisaran Ottoman, di atas layar algoritma mendeteksi wajah para musisi, menguraikan bibir, mata dan hidung untuk setiap orang (dan kadang-kadang melihat wajah "hantu" di mana tidak ada — sering kali di Pel rambut Kronos, pendiri Harrington). Ketika algoritma tumbuh lebih maju, umpan video memudar sampai hanya garis-garis neon pada latar belakang hitam yang tersisa. Akhirnya, garis besar wajah memudar hingga susunan garis abstrak — mungkin semua komputer perlu memahami "wajah, " tetapi sama sekali tidak dapat dipahami manusia - hanya itu yang tersisa.
"Mesin Penglihatan, " Trevor Paglen, Kuartet Kronos (Bruce Guthrie) 
"Mesin Penglihatan, " Trevor Paglen, Kuartet Kronos (Bruce Guthrie) 
"Mesin Penglihatan, " Trevor Paglen, Kuartet Kronos (Bruce Guthrie) 
"Mesin Penglihatan, " Trevor Paglen, Kuartet Kronos (Bruce Guthrie) 
"Mesin Penglihatan, " Trevor Paglen, Kuartet Kronos (Bruce Guthrie) 
"Mesin Penglihatan, " Trevor Paglen, Kuartet Kronos (Bruce Guthrie) 
"Mesin Penglihatan, " Trevor Paglen, Kuartet Kronos (Bruce Guthrie) 
"Mesin Penglihatan, " Trevor Paglen, Kuartet Kronos (Bruce Guthrie) 
"Mesin Penglihatan, " Trevor Paglen, Kuartet Kronos (Bruce Guthrie) 
"Mesin Penglihatan, " Trevor Paglen, Kuartet Kronos (Bruce Guthrie) 
"Mesin Penglihatan, " Trevor Paglen, Kuartet Kronos Debut East Coast dari pertunjukan berjudul "Mesin Penglihatan, " seperti karya Paglen lainnya, meminta pemirsa dan pendengar untuk belajar bagaimana melihat seperti komputer, dan menguji kembali hubungan manusia dengan teknologi — telepon di saku kami, dan mata di langit, dan semua yang ada di antaranya.
Ini tahun 2018, dan gagasan bahwa telepon seluler mengawasi kita tidak lagi terasa seperti teori konspirasi yang diajukan oleh seorang blogger basement yang mengenakan topi timah. Google ditangkap awal tahun ini melacak lokasi pengguna ponsel Android, bahkan jika pengguna menonaktifkan fitur. Banyak orang yakin bahwa ponsel kami mendengarkan kami untuk menayangkan iklan dengan lebih baik — Facebook dan perusahaan lain menolak tagihan ini, meskipun secara teknis dan hukum dimungkinkan bagi mereka untuk melakukannya. Jurnalis teknologi Alex Goldman dan PJ Vogt menyelidiki dan menemukan hal yang sama: Tidak ada alasan mengapa ponsel kita tidak mau mendengarkan, tetapi di sisi lain, pengiklan dapat mengumpulkan cukup informasi tentang kita melalui metode lain yang mereka tidak perlu lakukan. .
Dalam konteks inilah "Mesin Penglihatan" dilakukan. Selusin kamera yang menonton Kronos Quartet mengirim video langsung dari pertunjukan ke rak komputer, yang menggunakan algoritme kecerdasan buatan luar-rak untuk membuat visual yang menakutkan. Algoritme adalah yang sama digunakan di ponsel kami untuk membantu kami mengambil foto narsis yang lebih baik, yang digunakan oleh mobil self-driving untuk menghindari rintangan, dan yang digunakan oleh penegak hukum dan bimbingan senjata. Jadi sementara hasil di layar kadang-kadang indah, atau bahkan lucu, ada arus horor yang tersembunyi.
“Apa yang membuat saya kagum dengan pekerjaan khusus ini adalah, dia menunjukkan kepada kita sesuatu yang — dan ini berlaku untuk semua karyanya — dia menunjukkan kepada kita sesuatu yang mengganggu dan dia melakukannya dengan menggunakan trik, ” kata John Jacob, kurator museum untuk fotografi, yang mengorganisir "Sites Unseen."
"Ini trik yang disengaja, " katanya, "dan itu berhasil."
Kemudian, algoritma pengenalan wajah yang canggih membuat penilaian tentang anggota Kronos, dan menampilkan hasilnya di layar. "Ini adalah John [Sherba]. John berusia antara 24-40 tahun, " kata komputer. "Sunny [Yang] 94, 4% perempuan. Sunny 80% marah dan 10% netral."
"Salah satu hal yang saya harap kinerjanya ditunjukkan, " kata Paglen, "adalah beberapa cara di mana jenis penginderaan yang dilakukan komputer tidak netral. Ia sangat bias ... dengan segala macam asumsi politik dan budaya yang tidak netral. " Jika sistem klasifikasi gender mengatakan bahwa Sunny Yang adalah 94, 4 persen perempuan, maka itu menyiratkan bahwa seseorang adalah 100 persen perempuan. "Dan siapa yang memutuskan apa yang 100 persen perempuan itu? Apakah Barbie 100 persen perempuan? Dan mengapa gender biner?" Paglen bertanya. "Melihat itu terjadi pada saat di mana pemerintah federal berusaha untuk benar-benar menghapus orang-orang aneh, itu lucu di satu sisi tetapi bagi saya itu juga mengerikan."
Algoritme yang kemudian dihilangkan dengan persentase dan dipindahkan untuk hanya mengidentifikasi objek dalam adegan. "Mikrofon. Biola. Orang. Ubur-ubur. Wig." (Dua yang terakhir jelas-jelas kesalahan; algoritme tampaknya telah membingungkan Hank Dutt untuk ubur-ubur dan rambut asli Harrington untuk yang palsu). Kemudian klasifikasi menjadi lebih kompleks. "Sunny memegang gunting, " kata mesin itu ketika cahaya menyilaukan senar cello-nya. "John memegang pisau." Apa yang akan terjadi jika penggolong memberikan informasi ini - salah - kepada penegak hukum, kita tidak akan pernah tahu.
Sebagian besar pengguna akhir platform AI — yang bukan seniman — mungkin berpendapat bahwa sistem ini mungkin memiliki bias sendiri, tetapi selalu menerima pengakhiran akhir oleh manusia. Algoritma buatan Amazon, Rekognition, yang dijual perusahaan kepada penegak hukum dan kemungkinan ICE, terkenal salah mengidentifikasi 28 anggota Kongres sebagai orang-orang yang dituduh melakukan kejahatan dengan membandingkan wajah mereka dengan foto-foto di database yang tersedia untuk umum. Pada saat itu, Amazon berpendapat bahwa ACLU, yang menggunakan sistem untuk membuat pertandingan, telah menggunakan Rekognition secara tidak benar. Perusahaan mengatakan bahwa pengaturan default sistem untuk pertandingan, yang disebut "ambang batas kepercayaan, " hanya 80 persen. (Dengan kata lain, algoritme itu hanya 80 persen yakin bahwa Rep. John Lewis adalah penjahat.) Seorang juru bicara Amazon mengatakan bahwa mereka merekomendasikan departemen kepolisian menggunakan ambang batas kepercayaan 95 persen, dan bahwa "Rekognisi Amazon hampir secara eksklusif digunakan untuk membantu mempersempit bidang dan memungkinkan manusia untuk segera meninjau dan mempertimbangkan opsi menggunakan penilaian mereka. ”Komputer mungkin berkomunikasi satu sama lain, tetapi — untuk saat ini — mereka masih meminta manusia untuk membuat panggilan terakhir.
Musik, dipilih oleh Paglen dengan masukan dari Kronos, juga memiliki sesuatu untuk dikatakan tentang teknologi. Satu bagian, "Powerhouse, " oleh Raymond Scott, "mungkin paling terkenal karena digunakan dalam kartun di adegan pabrik, " kata Paglen. "Jika Anda pernah melihat pabrik memproduksi terlalu banyak dan menjadi gila, ini sering merupakan musik yang berbicara tentang itu. Bagi saya itu adalah cara berpikir tentang industrialisasi yang hampir kartun dan menempatkan mereka dalam konteks teknologi." Sepotong lain, "Kereta Berbeda" oleh Steve Reich, menutup set. Kronos hanya melakukan gerakan pertama, yaitu tentang masa kecil Reich pada 1930-an dan 40-an; Paglen mengatakan ia menganggap karya itu sebagai merayakan "rasa kegembiraan dan kemajuan yang difasilitasi kereta." *
Itu digabungkan dengan gambar-gambar dari database yang tersedia untuk publik bernama ImageNet, yang digunakan untuk mengajarkan komputer tentang apa itu. (Juga disebut "data pelatihan, " jadi ya, ini sedikit pelesetan.) Layar mem-flash gambar dengan sangat cepat, menunjukkan contoh buah, bunga, burung, topi, orang berdiri, orang berjalan, orang melompat dan individu seperti Arnold Schwarzenegger. Jika Anda ingin mengajarkan komputer bagaimana mengenali seseorang, seperti Schwarzenegger, atau rumah atau konsep "makan malam, " Anda akan mulai dengan menunjukkan kepada komputer ribuan gambar ini.
Ada juga klip video pendek orang-orang yang berciuman, berpelukan, tertawa dan tersenyum. Mungkin seorang AI yang terlatih pada foto-foto ini akan menjadi orang yang baik hati dan ramah.
Tetapi "Kereta Berbeda" bukan hanya tentang optimisme; gerakan selanjutnya, yang tidak dimainkan oleh Kronos pada hari Kamis tetapi "tersirat" oleh yang pertama, adalah tentang bagaimana janji perjalanan kereta api disesuaikan untuk menjadi instrumen Holocaust. Kereta, yang tampak seperti kemajuan teknologi, menjadi kendaraan di mana puluhan ribu orang Yahudi dipindahkan ke kamp kematian. Apa yang tampak seperti teknologi yang penuh kebaikan menjadi ditumbangkan untuk kejahatan.
"Itu seperti, 'Apa yang mungkin salah?" Paglen berkata. "Kami mengumpulkan semua informasi tentang semua orang di dunia. '"
Dan pada kenyataannya, ketika "Kereta Berbeda" berakhir, fokusnya bergeser. Layar tidak lagi menampilkan gambar Kronos atau data pelatihan dari ImageNet; alih-alih, ini menunjukkan umpan video langsung dari penonton, ketika algoritma pengenalan wajah memilih fitur setiap orang. Sungguh, bahkan ketika kita berpikir kita tidak diawasi, kita tetap melihatnya.
Dalam umpan video langsung dari penonton, algoritma pengenalan wajah memilih fitur masing-masing orang. (Bruce Guthrie) Untuk melaporkan kisah ini, saya meninggalkan rumah saya dan berjalan ke stasiun kereta bawah tanah, di mana saya memindai kartu elektronik yang terhubung dengan nama saya untuk melewati pintu putar, dan lagi ketika saya meninggalkan kereta bawah tanah di pusat kota. Di pusat kota, saya melewati setengah lusin kamera keamanan sebelum memasuki museum, tempat saya melihat setidaknya dua kamera lagi (juru bicara Smithsonian mengatakan Smithsonian tidak menggunakan teknologi pengenalan wajah; departemen kepolisian metropolitan DC mengatakan hal yang sama tentang kameranya).
Saya merekam wawancara menggunakan telepon saya dan mengunggah audio ke layanan transkripsi yang menggunakan AI untuk mengetahui apa yang saya, dan subjek saya katakan, dan mungkin atau mungkin tidak menargetkan iklan ke arah saya berdasarkan pada isi wawancara. Saya mengirim email menggunakan Gmail, yang masih "membaca" semua yang saya kirim (walaupun tidak lagi menayangkan iklan kepada saya).
Selama proses pelaporan, ketika saya berjalan melintasi kota, saya bertemu — saya tidak mengada-ada — mobil Google Street View. Dua kali. Bukan paranoia jika mereka benar-benar mengawasimu, kan?
Jadi apa yang tersisa, di dunia ini di mana komputer melakukan penglihatan, dan mungkin membuat penilaian tentang kita? "Sight Machine" mendesak kita untuk belajar berpikir seperti komputer — tetapi juga mengingatkan kita bahwa ada beberapa bagian dari kita yang, untuk saat ini, masih sepenuhnya manusia.
Musik, kata Paglen, "adalah sesuatu yang benar-benar tidak dapat dikuantifikasi ... ketika Anda menonton sistem penglihatan komputer yang pada dasarnya menginterogasi para pemain, sungguh bagi saya menunjukkan bahwa ada jurang pemisah yang besar dalam persepsi antara cara kita memandang budaya, emosi, dan makna. dan semua cara yang tidak terlihat oleh sistem otonom. "
Atau seperti yang dikatakan Harrington, Anda bisa membuat musik dengan biola yang terbuat dari kayu atau yang dibuat dengan printer 3D. Anda dapat menggunakan busur serat karbon atau yang terbuat dari kayu pernambuco. Tapi, katanya, busur masih perlu ditarik melewati senar. Musik "menjadi lebih berharga karena buatan tangan."
Dan untuk saat ini, itu masih sesuatu yang hanya bisa kita lakukan. Mesin-mesin itu mungkin tidak lagi membutuhkan kita. Tetapi ketika datang ke suara serius busur pada tali biola, dan string emosional yang menarik-narik, kita tidak membutuhkan mesin.
"Trevor Paglen: Sites Unseen, " yang dikuratori oleh John Jacob, berlanjut di Museum Seni Smithsonian Amerika di Washington, DC hingga 6 Januari 2019. Ia dijadwalkan untuk melakukan perjalanan ke Museum Seni Kontemporer San Diego 21 Februari - 2 Juni, 2019.
* Catatan Editor, 2 November 2018: Kisah ini telah diedit untuk memperjelas makna yang dimaksud dan kisah asal usul komposisi "Kereta Berbeda" Steve Reich.
