Cihazlarınız size puan veriyor. Buna göre davran.

Bir metre görülmektedir. Bir tarafta başparmak, diğer tarafta başparmak.

Şansınız, sıradan insanların sosyal etkileşimleri temelinde birbirlerini derecelendirdiği bir dünyayı tasvir eden meşhur Black Mirror bölümünü “Nosedive” görmüşsünüzdür. Yaşamımızdaki teknolojinin yaygın doğasını hedefleyen ve geleceğin distopik bir resmini çizen popüler şovda, bu derecelendirmeler sosyoekonomik durumu belirleyen bireysel sosyal kredi puanlarını hesaplayan kapsamlı bir algoritmaya geri dönüyor.

Bu hayali dünyada, düşük bir puana sahip olmak, günlük hayatınızı sürdürmenizi engeller. Araba kiralayamaz, otel rezervasyonu yapamaz veya uçuş için ödeme yapamazsınız.

Ancak bu hikaye, Çin'in gelişen sosyal kredi sistemine tabi olanlar için korkutucu bir şekilde eve yaklaşıyor. Batı finansal kredi puanları modelini kopyalamak için inşa edilen Çin sistemi, zamanında borç geri ödemelerinin ötesinde iyi davranışı (ve kötü cezalandırmayı) ödüllendirmesi dışında benzer bir şekilde çalışır..

Bir devleti, vatandaşlarının davranışı üzerinde büyük etki bıraktığı için uyarmak kolaydır. Ancak bunun önemli bir noktasını kaçırırdı. Bu benzersiz sosyal kredi modelini ilk etapta mümkün kılan daha geniş güç, yüz tarayıcılarının, dijital cihazların, makine öğrenme algoritmalarının ve büyük veri modellerinin çoğalmasıdır. Kalmak için buradalar ve zamanla daha akıllı hale geliyorlar.

Gözetim karanlık ve gizemli bir güçtür

Teknoloji, sosyal sözleşmelerimizi temelden dönüştürme yeteneğine sahiptir ve belki de ulus devletin mevcut haliyle ortadan kaldırılmasına yol açabilir.

Bunu okuyorsanız, bir gözetim hayranı değilsinizdir. Gizliliğinize değer veriyorsunuz ve hükümetin 7/24 ne yaptığınızı bilmemesini tercih ediyorsunuz. Ancak bunun nedeni, haklarımıza, bir dereceye kadar saygı duyulan bir dünyada yaşama seçeneğimiz (en azından bazılarımız) olması..

Bir panopticon içinde yaşasaydık davranışımız nasıl değişecekti? İngiliz filozof Jeremy Bentham'ın yazılarından doğan bir panopticon, bir hapishane hücresi çemberinin merkezinde bir gözlem kulesi bulunan bir binaya atıfta bulunuyor..

Bir panopticon, eylemlerinizin herhangi bir zamanda izlenebileceği algısını eve götürmelidir. Hapishane hücrelerine bakan her mahkum merkezi gözlem kulesini görebiliyor. Bir gardiyanın aynı anda onlara bakıp bakmadığını güvenilir bir şekilde bilmenin bir yolu yoktur, ancak bundan kaçınmanın da bir yolu yoktur..

Bentham, gücün görünür ancak karanlık ve gizemli olması gerektiği fikrine inanıyordu. Bireyin toplumla ilişkisinin ona bağlı olduğunu savundu: Gözetim yoluyla etik, ahlak ve işe karşı tutumlar açısından toplumsal normlara uymak zorunda kalacağız..

Sosyal krediler zaten burada

Bentham 19. yüzyılın başlarında öldü, ancak çalışmaları ve fikirleri yaşıyor. Ve bir davranış uygulama modeli olarak panopticon gerçekten yerden kalkmazken, kesinlikle sadece farklı araçların olduğunu iddia edebiliriz..

Örneğin Uber derecelendirmelerini alalım. Şirket bu yılın başlarında düşük reytingli binicileri yasaklamaya başlayacağını doğruladı. Düşük dereceli sürücüler benzer sonuçlarla karşılaşırlar: Bazı eyaletlerde Uber Black için araç kullanamazlar ve daha az sürüş isteği alabilirler.

Buradaki mesaj basit ama doğrudan: Kibar, arkadaş canlısı olun veya kesin. Bu davranış kontrolü değilse, ne olduğunu bilmiyorum.

Ve bu, yaşam tarzı seçimlerimizi değiştiren teknolojinin tek tezahüründen çok uzak. Sigorta şirketleri Fitbit verilerinizi ister, böylece ne kadar sağlıklı olduğunuzu kontrol edebilir ve potansiyel olarak primlerinizi ayarlayabilirler. Akıllı diş fırçaları diş sağlayıcınıza veri gönderir, bu nedenle dişlerinizi yeterince sık fırçalamazsanız, daha fazla nakit öksürmeye hazır olun.

Bu modellere de güvenmeye başladık. Düşük dereceli bir eBay satıcısından bir ürün satın aldınız mı? Yeni bir hizmeti denemeden önce çevrimiçi incelemeleri ne sıklıkla okuyorsunuz?

Tabii ki, bu örneklerin her biri, devlet tarafından işletilen bir sosyal kredi sisteminin geniş çaplı vuruşunu değil, yalnızca küçük bir izleme alanını yansıtmaktadır. Ancak bu görünen kısıtlama çoğunlukla var, çünkü teknoloji şirketleri sınırlı kapsamları içinde çalışıyorlar. Tüm bu veri noktaları birlikte kaynaklanmış olsaydı, benzer şekilde geniş kapsamlı bir izleme sistemini besleyebilir.

Ahlaki bir sorun. Teknolojiye bağımlılığımız ve vazgeçmek istediğimiz veri noktaları algoritmaları daha akıllı ve teknoloji şirketlerini daha zengin hale getiriyor. Mahremiyet eksikliğinden şikayet etmek kolay olsa da, gerçek şu ki, teknoloji bize sadece bizim hakkımızda daha fazla bilgi sahibi olduğunda daha iyi hizmet edecektir. Nasıl baktığınıza bağlı olarak, erdemli veya kısır bir döngüdür.

Bunun için de bir terim var: gözetim kapitalizmi, Harvard Business School'dan Shoshana Zuboff.

Mahremiyet kaçınılmaz bir teknoloji kazası mıdır??

Toplumsal kredi sistemleri toplum genelinde çoğaldıkça, devletin faydası nedir? Özgürlüğü korumak ve temel hakları güvence altına almak için merkezileşmiş güçler toplumlar için şart mıdır? Ceplerimizdeki cihazların günlük işlemleri kaydedebileceğini bilersek, bu otomatik olarak davranışsal değişikliklere yol açmaz?

Anarşizm bir sonraki büyük toplumsal hareket midir? “Dijital teknolojilerin büyük ölçekli anarşist örgütlenme biçimleri için yeni olanaklar yaratabileceğini” söyleyen profesör Andreas Wittel'e göre kesinlikle mümkün.

Birçoğumuz teknolojiyle ilgili gizlilik risklerinin farkındayız. Yine de Alexa'dan bize bir şeyler almasını ve Siri'den sürüş rotalarını kontrol etmesini istiyoruz. Müziğimizi Spotify'da çalıyoruz, yemeğimizi Uber Eats üzerinden sipariş ediyoruz ve çeklerimizi Venmo üzerinden bölüyoruz.

Teknoloji kalmak için burada ve gizlilik endişeleri haritadan silinmeyecek. Ele geçmemiz gereken soru, bize hizmet etmeye devam edip etmeyeceği veya nihayetinde başka bir yol olup olmayacağı.?

Cihazlarınız size puan veriyor. Buna göre davran.
admin Author
Sorry! The Author has not filled his profile.