Perangkat Anda memberi peringkat Anda. Berperilaku sesuai.

Ilustrasi meter. Jempol di satu ujung, jempol di sisi lain.

Kemungkinannya Anda telah melihat "Nosedive," episode Black Mirror yang terkenal menggambarkan dunia di mana orang biasa menilai satu sama lain berdasarkan interaksi sosial mereka. Pada acara populer — yang mengincar sifat teknologi yang meluas dalam kehidupan kita dan melukiskan gambaran dystopian tentang masa depan — peringkat ini memberi umpan balik ke dalam algoritma yang komprehensif, menghitung skor kredit sosial individu yang menentukan status sosial ekonomi.

Di dunia fiktif ini, memiliki skor rendah mencegah Anda menjalani kehidupan sehari-hari. Anda tidak dapat menyewa mobil, memesan hotel, atau membayar penerbangan.

Tetapi kisah ini sangat mengejutkan bagi mereka yang tunduk pada sistem kredit sosial China yang berkembang. Dibangun untuk mereplikasi model Barat dari skor kredit keuangan, sistem China bekerja dengan cara yang sama kecuali itu memberi penghargaan pada perilaku yang baik (dan menghukum buruk) di luar pembayaran hutang tepat waktu..

Sangat mudah untuk menegur negara karena menggunakan pengaruh yang terlalu besar atas perilaku warga negaranya. Tapi itu akan kehilangan poin kunci. Kekuatan yang lebih luas yang membuat model kredit sosial yang unik ini dimungkinkan di tempat pertama adalah proliferasi pemindai wajah, perangkat digital, algoritma pembelajaran mesin, dan model data besar. Mereka ada di sini untuk tinggal dan menjadi lebih pintar dari waktu ke waktu.

Pengawasan adalah kekuatan yang gelap dan misterius

Teknologi memiliki kemampuan untuk mengubah secara mendasar kontrak sosial kita dan dapat, mungkin, mengarah pada penghapusan negara bangsa dalam bentuknya saat ini..

Jika Anda membaca ini, kemungkinan Anda bukan penggemar pengawasan. Anda menghargai privasi Anda dan Anda lebih suka pemerintah tidak tahu apa yang Anda lakukan 24/7. Tapi itu karena kita punya pilihan (sebagian dari kita, setidaknya) untuk hidup di dunia di mana hak-hak kita, sampai taraf tertentu, dihormati.

Bagaimana perilaku kita berubah jika kita hidup di dalam panoptikon? Terlahir dari tulisan filsuf Inggris Jeremy Bentham, sebuah panoptikon merujuk pada sebuah bangunan yang menampilkan menara observasi di tengah lingkaran sel-sel penjara.

Panopticon seharusnya mengembalikan persepsi bahwa tindakan Anda dapat dipantau setiap saat. Setiap tahanan yang melihat keluar dari sel penjara mereka dapat melihat menara pengamat pusat. Tidak ada cara untuk mengetahui apakah seorang penjaga melihat mereka pada saat yang bersamaan, tetapi tidak ada cara untuk menghindarinya juga.

Bentham percaya pada gagasan bahwa kekuatan harus terlihat namun gelap dan misterius. Dia berargumen bahwa hubungan individu dengan masyarakat bergantung padanya: Melalui pengawasan, kita akan dipaksa untuk menyesuaikan diri dengan norma-norma sosial dalam hal etika, moral, dan sikap terhadap pekerjaan..

Kredit sosial sudah ada di sini

Bentham meninggal pada awal abad ke-19, tetapi karya dan idenya tetap hidup. Dan sementara panoptikon sebagai model penegakan perilaku tidak benar-benar turun, kita tentu bisa berpendapat bahwa itu hanya alat yang berbeda.

Mari kita ambil peringkat Uber, misalnya. Perusahaan mengkonfirmasi awal tahun ini bahwa mereka akan mulai melarang pengendara dengan peringkat rendah. Pengemudi dengan peringkat rendah menghadapi dampak yang serupa: Mereka tidak dapat mengemudi untuk Uber Black di beberapa negara bagian, dan mereka dapat menerima lebih sedikit permintaan perjalanan.

Pesan di sini sederhana namun langsung: Bersikap sopan, ramah, atau terputus. Jika itu bukan kontrol perilaku, saya tidak tahu apa itu.

Dan ini jauh dari satu-satunya manifestasi teknologi yang mengubah pilihan gaya hidup kita. Perusahaan asuransi menginginkan data Fitbit Anda sehingga mereka dapat memeriksa seberapa sehat Anda dan, berpotensi, menyesuaikan premi Anda. Sikat gigi yang cerdas mengirimkan data kembali ke penyedia gigi Anda, jadi jika Anda tidak cukup sering menyikat gigi, bersiaplah untuk batuk lebih banyak uang.

Kami juga mengandalkan model ini. Apakah Anda pernah membeli produk dari penjual eBay dengan peringkat rendah? Seberapa sering Anda membaca ulasan secara online sebelum mencoba layanan baru?

Tentu saja, masing-masing contoh ini hanya mencerminkan area pemantauan yang kecil, bukan langkah besar yang diambil oleh sistem kredit sosial yang dikelola pemerintah. Tetapi pengekangan yang tampaknya ada ini, sebagian besar, karena perusahaan teknologi telah beroperasi dalam lingkup terbatas mereka. Jika semua titik data ini dilas menjadi satu, ini dapat menyulut sistem pemantauan yang sama luasnya.

Ini adalah masalah moral. Kecanduan kami pada teknologi dan poin data yang kami rela menyerah membuat algoritma menjadi lebih cerdas dan perusahaan teknologi lebih kaya. Meskipun mudah untuk mengeluh tentang kurangnya privasi, faktanya adalah bahwa teknologi hanya akan melayani kita dengan lebih baik ketika mengetahui lebih banyak tentang kita. Ini adalah siklus yang baik atau jahat, tergantung pada bagaimana Anda melihatnya.

Ada istilah untuk itu juga: kapitalisme pengawasan, diciptakan oleh Shoshana Zuboff dari Harvard Business School.

Apakah privasi merupakan korban teknologi yang tak terhindarkan?

Saat sistem kredit sosial berkembang pesat di seluruh masyarakat, apa gunanya negara? Kekuatan terpusat untuk menegakkan kebebasan dan menjamin hak-hak mendasar sangat penting bagi masyarakat — atau mereka? Jika kita tahu bahwa perangkat di saku kita mampu merekam tindakan sehari-hari, bukankah itu secara otomatis mengarah pada perubahan perilaku?

Apakah anarkisme adalah gerakan sosial besar berikutnya? Tentu saja mungkin, menurut profesor Andreas Wittel, yang berpendapat bahwa "teknologi digital mungkin membuka kemungkinan baru untuk bentuk besar organisasi anarkis."

Banyak dari kita menyadari risiko privasi yang terkait dengan teknologi. Namun kami meminta Alexa untuk membelikan kami barang dan Siri untuk memeriksa rute mengemudi. Kami memutar musik kami di Spotify, memesan makanan kami melalui Uber Eats, dan membagi cek kami melalui Venmo.

Teknologi ada di sini untuk tetap dan masalah privasi tidak akan menghapusnya dari peta. Pertanyaan yang harus kita selesaikan adalah apakah itu akan terus melayani kita, atau apakah pada akhirnya akan sebaliknya?

Perangkat Anda memberi peringkat Anda. Berperilaku sesuai.
admin Author
Sorry! The Author has not filled his profile.