2000’li yılların başında internetin geleceğini tartışıyorduk. Başlıca iki tehlike vardı. Birincisi, hükümetlerin internette daha fazla söz sahibi olmak istemesiydi. İkincisi, internetin ticarileşmesiydi. Liberal anlatı, ilk tehdit üzerinde duruyor ve otoriter hükümetlerin müdahalelerinin internetin balkanlaşması (https://tr.wikipedia.org/wiki/Balkanlaşma ) ile sonuçlanacağını iddia ediyordu. İkinci tehlike, ticarileşme, ise daha az önemseniyordu. O zamanlar ticarileşme deyince insanın aklına daha çok e-ticaret sitelerinin artması ve internetin bir pazar yerine dönüşmesi geliyordu. Bu da birinci tehlikeyle karşılaştırıldığında o kadar büyük bir sorun değildi. internetin olumlu yanları, pazar yerine dönüşmüş bir internette de varlığını devam ettirebilirdi.
Ama öyle olmadı. Çünkü ticarileşme, basitçe internetteki e-ticaret faaliyetlerinin artması biçiminde gerçekleşmedi. Salt niceliksel değil, niteliksel bir dönüşüm de yaşandı. internetteki ticarileşme dinamikleri, bambaşka bir dünyanın kapısını araladı. Facebook/Cambridge Analytica’nın başta 2016’daki ABD seçimleri olmak üzere dünyanın dört bir yanındaki seçim süreçlerine müdahalesinin ortaya çıkmasıyla beraber internet hakkındaki liberal anlatı da çöktü. Artık Shoshana Zuboff’un “Gözetleme Kapitalizmi Çağı” adını verdiği bir çağdan söz ediyorduk.
Facebook’un eski çalışanlarından Jeff Hammerbacher’in dediği gibi bir kuşağın en iyi beyinleri vakitlerini reklamları daha fazla tıklatmaya harcadılar. Hâlâ birçok çevrimiçi platform, kullanıcının platformda harcadığı zamanı ve etkileşimini en üst düzeye çıkarmayı hedefliyor. Kullanıcılar, kişisel verilerini paylaşmaya teşvik ediliyorlar. Daha sonra pişman olabilecekleri aşırı paylaşımlar yapmaya veya mahrem sırlarını ifşaya yönlendiriliyorlar. Platform sahiplerinin kişisel verileri toplama ve kullanma gücünün artması, insanları daha etkili bir şekilde manipüle edebilmelerini sağlıyor. Böylece platform kullanıcıları sonsuz bir döngünün içine düşebiliyorlar: kişisel verilerini paylaşmaları için manipüle ediliyorlar ve bu veriler daha sonra onları daha fazla manipüle etmek için kullanılıyor.
Kuşkusuz bir kuşağın en iyi beyinlerinin vakitlerini reklamları daha fazla tıklatmaya harcaması, günümüzdeki veriye dayalı yapay zekâ (YZ) yaklaşımlarının da önünü açtı. Fakat birçok platformun kullanıcı etkileşimini artırma çabaları genellikle kutuplaşma, taciz, siber zorbalık ve diğer zararlar pahasına gerçekleşti. Teknoloji şirketleri sık sık etik ilkeleri ürünlerinin içine yerleştirdiklerini iddia etseler de ürünün hangi ahlaki değerlere göre çalışacağında belirleyici olan şirketlerin iş modelleri oldu. Bu süreçte, meslektaşlarımız kendilerinden isteneni yapmaya çalıştılar. Örneğin, reklamları daha fazla tıklatmaya uğraştılar; kişisel verileri istiflemeye yardımcı olacak uygulamalar geliştirdiler; kullanıcı verilerini kullanarak onları manipüle etmenin yollarını aradılar. Zaman zaman ikileme düştükleri de oldu. Sosyolog Zeynep Tüfekçi, 2017 yılındaki TED konuşmasında, bipolar kişilik bozukluğunda mani döneminin ön belirtilerinin sosyal medya paylaşımlarından anlaşılabileceğini fark eden bir mühendisten söz ediyordu. Mani döneminde insanlar alışveriş yapmaya daha meyilli oluyorlardı. Kuşkusuz bu bilgi, iş modelleri hedefli reklamcılık üzerine kurulu şirketler (özellikle Google ve Facebook) için önemliydi (https://www.youtube.com/watch?v=iFTWM7HV2UI). Fakat teknik olarak yapılabilir olan, toplumsal değerler açısından kabul edilebilir miydi?
Mühendisin eyleminin sonuçlarının farkında olmasının oldukça önemli olduğunu düşünüyorum. Elbette şirketlerin gözetim kapitalizmine dayalı iş modelleri devam ettikçe yapabilecekleri oldukça sınırlı olacak. Fakat mühendis, sirenlerin büyüleyici seslerinden etkilenmemeli.
Naziler, İşbirlikçiler ve Direnişçiler
Yunan mitolojisinde sirenler, güzel sesleriyle şarkı söyler, denizcileri baştan çıkarır ve onları felakete sürüklerlermiş. Fakat Odysseus, sirenlerin kendisine ne söylediğini de merak etmekteymiş. Bu yüzden, mürettebatından kulaklarını balmumu ile tıkamalarını ve onu direğe bağlamalarını emretmiş. Adamlarından, ne kadar yalvarırsa yalvarsın, onu çözmemelerini istemiş. Böylece Odysseus, sirenlerin güzel şarkısını duyabilmesine karşın kendisinin ölümüne neden olacak bir şey yapamamış. Mürettebatı da kulaklarını balmumu ile kapattığından tehlikeli yollardan güvenli bir şekilde geçebilmişler.
Teknoloji de (özellikle sanayi devrimiyle beraber) bir siren gibi insanları büyüledi. Mary Shelley’in 19. yüzyılda yayımlanan Frankenstein adlı romanı, teknolojinin büyüsüne kapılan insanın neden olabileceği felaketlerin bir habercisi gibiydi. O günden bu yana bir çok Frankenstein gördük.
Teknolojinin büyüsü karşısında Frankenstein olmak ya da olmamak…Veliz (2021), II. Dünya Savaşı’ndan iki öykü aktarıyor.
İlk öykünün kahramanı Jacobus Lambertus Lentz. Lentz, bir Nazi değildi. Ama davasına gönülden bağlı bir çok Nazi’den daha fazla zararı oldu. Lentz, Hollanda Nüfus Kayıtları Müfettişiydi ve nüfus istatistiklerine karşı bir zaafı vardı. İnsanları kayıt altına alma tutkusu vardı. Bu doğrultuda, Mart 1940’ta, Nazi işgalinden iki ay önce, Hollanda hükümetine tüm vatandaşların bir kimlik kartı taşımasını zorunlu kılacak bir kişisel kimlik sistemi önermişti. Kartta, kuvars lamba altında kaybolan yarı saydam mürekkepler ve kartların taklit edilememesini sağlamak için filigranlı kağıt kullanılacaktı. Hollanda hükümeti, böyle bir sistemin sıradan insanlara suçlu muamelesi yapacağı ve bunun ülkenin demokratik geleneklerine aykırı olacağı gerekçesiyle Lentz’in önerisini reddetti.
Hayal kırıklığına uğrayan Lentz, birkaç ay sonra aynı öneriyi Reich Kriminal Polis Bürosuna getirdi. Naziler için eşsiz bir fırsattı. Çünkü Naziler bir ülkeyi işgal ettiklerinde, nüfusu kontrol altına almanın ve özellikle Yahudileri bulmanın ilk adımı olarak yerel kayıtları ele geçiriyorlardı. Lentz’in önerisiyle artık her Hollandalı yetişkin bir kimlik kartı taşıyacaktı. Yahudilerin taşıdığı kartların üzerine J damgası, yani ölüm fermanları, olacaktı.
Lentz bu kartların yanında nüfusla ilgili tutulan kayıtları genişletmek için IBM tarafından satılan, verileri kaydetmek ve işlemek için delikli kartlar kullanan Hollerith tablolama makinelerini kullandı. 1941 yılında, tüm Yahudilerin yerel Nüfus Dairelerine kayıt yaptırmalarını gerektiren bir kararname çıkarıldı. Hollanda hükümeti, Lentz’in önerisini reddetmiş olsa da on yıllar boyunca insanların din ve diğer kişisel detayları hakkında veri toplamıştı. Böylece her bir kişiyi ‘beşikten mezara kadar’ takip edebilecek kapsamlı bir sisteme sahip olmayı hedefliyordu. Lentz ve ekibi, Hollerith makinelerini ve bu gibi verileri Naziler’in hizmetine sundular.
İkinci öykü ise Fransa’dan. Fransa’da Hollanda’dakinden çok daha farklı bir durum yaşandı. Fransa, 1872’den beri mahremiyet nedeniyle kişilerin dini hakkında veri toplamıyordu. Bu nedenle Naziler, Fransa’daki yahudiler hakkında bilgi istediklerinde Fransız yetkililer, ne yahudilerin nerede yaşadıklarını ne de ülkede kaç yahudi olduğunu söyleyebildiler. Ayrıca Fransa’nın Hollanda’daki gibi kapsamlı bir delikli kart altyapısı olmadığından veri toplamak da zordu. Naziler, polis departmanlarından insanları kaydetmelerini istediklerinde, işlemler kağıt parçaları ve dizin kartları üzerinde elle yapılıyordu. Kısacası teknolojinin desteği olmadan Fransa’da Naziler’in işi zordu.
Fransa’daki yahudileri cellatlarına teslim etme işini (!) Fransız Ordusu Genel Muhasebecisi René Carmille üstlendi. Carmille, Hollerith makineleri de dahil olmak üzere, çeşitli tablolama makinelerine sahip olan bir delikli kart meraklısıydı. Carmille, insanları tanımlamak için ulusal bir Kişisel Kimlik Numarası geliştirdi. Meslek gibi kişisel veriler de sistemde tutulacaktı. Ayrıca on dört ila altmış beş yaş arasındaki tüm Fransız vatandaşlarını kapsayan 1941 nüfus sayımını hazırladı. Carmille’nin çalışmaları Naziler’in yahudileri fişlemesine yardımcı olacaktı. Örneğin bir soruda yahudilerden kendilerini hem büyükanne ve büyükbabaları hem de mensup oldukları din üzerinden tanımlamaları isteniyordu.
Fakat aylar geçmesine karşın Carmille’nin çalışmaları bir türlü tamamlanamadı. Listeler bir türlü gelmiyordu ve Naziler sabırsızlanmaya başlamıştı.
İşin aslı ise sonradan ortaya çıktı. Carmille, Fransa’nın Lentz’i değildi. Tam tersine Fransa’daki antifaşist direnişin önemli isimlerinden biriydi. Yaklaşık 20 bin sahte kimlik üretmiş ve tablolama makinelerini, Nazilere karşı savaşabilecek kişileri belirlemek için kullanmıştı. İnsanların yahudi olup olmadığına ilişkin soruya verilen yanıtlar ise hiçbir zaman kaydedilmemişti. Binlerce insan, verilerini toplarmış gibi yapan ama onları kaydetmeyen tek bir kişi tarafından kurtarılmıştı.
1944 yılında Naziler, Carmille’nin kim olduğunun ve ne yaptığının farkına vardılar. Carmille tutuklandı. Almanlar tarafından “Londra ile ilişkilerini sürdüren ve terörist gruplara yardım eden Alman ordusunun büyük düşmanı” olarak tanımlanan Carmille, iki gün sorguya çekildi ve işkence gördü. Daha sonra önce Montluc hapishanesine ardından da Kuzey Fransa’daki Compiègne’e gönderildi. Oradan da son sürgün konvoylarından biri olan 2-5 Temmuz 1944 tarihli “ölüm treni” ile Dachau’ya doğru yola çıktı ve 25 Ocak 1945’te Dachau’da tifüsten öldü.
İşgal altındaki Avrupa’da en yüksek yahudi ölüm oranı %73 ile Hollanda’da oldu. 140 bin yahudiden 107 bini sınır dışı edildi ve bunların 102 bini öldürüldü. Bu oran Fransa’da ise %25’ti. Fransa’daki 300-350 bin yahudiden 85 bini sınır dışı edildi ve bunların 82 bini öldürüldü. Hollanda ve Fransa arasındaki farkı yaratan şeyin veri toplama olduğu hipotezine bir destek de Hollanda’da yaşayan yahudi mültecilerin genel ölüm oranının Hollandalı yahudilerden daha düşük olmasıydı.
***
Olağanüstü zamanlarda, olağanüstü kişiler, olağanüstü kahramanlıklar yaptılar. Carmille de bunlardan biriydi. Bugün kimse bilgisayar mühendislerinden böyle kahramanca eylemler beklemiyor.
Fakat bilgisayar mühendislerinin, eylemlerinin olası sonuçları üzerinde düşünmeleri gerekiyor. Her şeyden önce bir şeyin teknik olarak yapılabilirliği, yapılması gerektiği anlamına gelmiyor. Kendilerine teknolojik meydan okuma (challenge) gibi görünen işleri topluma ve çevreye olası etkileri bağlamında da değerlendirmeliler. Yeni teknolojileri geliştirenler kadar onların kurumlarda konuşlandırılmasına ve kullanımına karar verenler de sirenlerin büyüleyici seslerine kulaklarını tıkayabilmeliler.
KaynaklarVéliz, C. (2021). Privacy is power. Brooklyn: Melville House.
