Yazılımcılar, beyin sapımızı kullanıp derinlerimize iniyor… Bilinç düzeyimiz, neoliberal sistemle aramıza koyduğunuz mesafe bizi bilinç altı saldırılarından kurtarmıyor…
Nesimi Aday
Google ‘etik tasarımcılarından’ ve ‘silikon vadisinin nadir vicdanı’ olarak tanınan Tristan Harris, ağ teknolojilerinin insan üzerindeki olumsuz etkileri üzerine çoğalttığı sorularını, âhlaki bir çabaya dönüştürmüş. İnsanın, ağ sistemleri için ürün haline getirilmesine itiraz eden Tristan, bildiklerini, ‘sadece endüstri değil her kes bilmeli’ diyerek ifşaya başlamış.
Bu alanda çalışan başka sosyal medya ‘yaratıcılarının’ da bir şeylerin ters gittiğini fark edip, yüksek sesle konuşmaya başlamasıyla “Sosyal İkilem – The Social Dillema” filmi çıkmış ortaya. Ya da böyle bir filmi tercihen çekmişler.
Yuval Noah Harari’nin ünlü Davos Zirvesi konuşması bu filme sufle vermiş mi ya da 2018’de yaptığı konuşmasını silikon vadisinin ‘vicdanlarından’ esinlenerek mi yapmış bilemiyoruz. Ama bu filmin de düğüm noktasını oluşturan ‘insanın hacklenmesi’ konusunu ondan duymuştuk. Şöyle diyordu; ‘’Bizler muhtemelen Homo Sapienslerin son nesliyiz. Yakın bir gelecekte, tıpkı bizim neandertallerden ve şempanzelerden farklı olduğumuz gibi, bizden farklı hareket eden varlıklar tarafından yönetiliyor olacağız!’’
İnsan ve diğer tüm organizmaların hacklendiğine dikkat çeken Harari, elde edilen ‘’verilere sahip olanlar, yaşamı da geleceğimizi de kontrol altına alacaktır’’ diyor.
Kasıtlı cehalet
Geçmişte toprağın en önemli servet olduğuna dikkat çeken profesör Harari, ‘toprak sahipleri ve toprağı olmayanlar olarak insanlığın aristokratlar ve halk tabakası olarak ikiye ayrıldığını, makineleşmeyle birlikte ise üretim ilişkisinden kaynaklı kapitalistler ve proletarya olarak sınıflara bölündüğünü, günümüzde ise makinelerin yerini insana ait verilerin aldığını, verilerin de elit bir tabakanın denetiminde olması hasebiyle insanlık artık sınıflarla değil, türlerle anılacak’ iddiasında.
Netflix’in yapımcılığını üstlendiği belgeseli izlerken, bir noktada durdum, duraladım. Aslında korkuyla, dehşetle durdum dersem abartmış olmam. Harari’nin sözlerini belgeselde anlatılanlarla buluşturdum. Çokça sorulan bir soruyu kendime bold ve italik sordum; yapay zeka (AI) ve sistemleri bizi kontrol ediyor mu artık?
Konuşmacılardan birinin dediği gibi ‘kasıtlı cehaletle, medeniyetimizin sonunu mu hazırlıyoruz bu algoritmalarla?
İnsanın ürünleşmesi
İzlediklerimi, duyduklarımı aklımın ve bilgimin olanakları dahilinde anlamak, anlamlandırmak için filmi, “sonra izlerim” diye terk ettim. Evet, terk ettim. Çünkü Google, Facebook, YouTube, Twitter, WhatsApp gibi platformların insanları nasıl bağımlı yaptıklarını, bu platformları bizlere neden parasız sattıklarını, bunu da ‘ürün yoksa, ürün sensin’ mottosuyla verdiklerini, “bunları zaten biliyoruz” iç sesiyle izledikten, dinledikten sonra, işte o çakılıp kaldığım bölüm geldi ekrana; algoritmalar.
Sürekli başarı endeksli algoritma yazılınca, bir süre sonra bilgisayar kendi kendine başarı üretiyormuş! Kredi kartı büyüklüğündeki bu otonom beyinlerin hedefe ulaşmak için ne yaptıklarını kimse anlamıyormuş. “‘Makine öğrenimi’ terimi buradan geliyor,” diyor Twitter eski yöneticisi Jeff Seibert.
Instagram’dan Bailey Richardson “Bir insanın yazmasına rağmen algoritmanın kendine ait bir zihni var. Siz makineyi (yazılımı) yarattıktan sonra, o kendini tamamen değiştiriyor,” diyor! “Algoritmalar kodlara gömülü fikirlerdir ve algoritmalar objektif değildir. Onlar başarı için optimize edilir” diyor veri bilimcisi Cathy O’neil de.
İyi de kimin bakış açısına ve hangi değerlere göre başarı?
Filmdeki en çarpıcı belirlemelerden biri Richardson’ın sözleri iken, diğeri de Facebook ve Uber’in eski müdürlerinden Sandy Parakilas’ın söyledikleri. Şöyle diyor; “Facebook, Twitter gibi şirketlerde bu sistemlerin nasıl çalıştığını bilen bir avuç insan var. Onlar bile, belli bir içerikte tam olarak ne olacağını hiç mi hiç anlamıyorlar. Yani insanlar olarak bu sistemler üzerindeki kontrolümüzü kaybettik. Onlar bizi kontrol ediyor” diyor.
Korkutucu gelişmelerden en önemlisi bu olmalı?! Makine öğrenimi denilen ve türümüze korku salan olgu.
Google gibi şirketlerde devasa odalar varmış. Bunların bazıları yer altında olduğu gibi bazıları da su altındaymış ve birileriyle bağlantılı binlerce işlemci varmış böyle.
Bir ara basına şöyle bir haber düşmüştü: ‘’Facebook’un yapay zekası kendi dilini geliştirince kapatıldı.’’ Gerçekten kapatıldı mı yoksa gizliden yürütülüyor mu bilemiyoruz. Nasıl olsa denetleyecek ne bir yasa ne de kurum var. Belki de o makineler kendi aralarında muhabbete devam ediyordur hâlâ.
Depresyona neden oluyor…
Sosyal medyada zaman geçirmek için sürekli eklenti geliştiriyorlar. Siz uzak dursanız da bir arkadaşınız size mention atıyor veya bir paylaşımda etiketliyor. İsteseniz de kaçamıyor, kaçınamıyorsunuz.
‘Ben bilinçli bir insanım, ağ teknolojisini kullanırken onların tuzaklarına düşmem’ diyor olabilirsiniz. Sizi de düşünmüşler. Sizde bilinç altı alışkanlıkları oluşturuyorlar. Bunları da psikoloji biliminin insana ulaşmak için formalize ettiği bilgiyi, ‘ikna teknolojisi’ dedikleri yöntemleri için optimize ediyorlar. Yani hiç farkında olmadan, daha derin bir işlemle ‘bilinçli kullanıcıyı’ da ağa düşürüyorlar.
Yazılımcılar, beyin sapımızı kullanıp derinlerimize iniyor. Orada uyaranlar (biyometrik sensör) aracılığıyla alışkanlıklarımızı kontrol ediyorlar. Bilinç düzeyimiz, neoliberal sistemle aramıza koyduğunuz mesafe bizi bilinç altı saldırılarından kurtarmıyor. Bizi sadece ürün olarak gören yapay zeka siyasal, ideolojik formasyonumuzun önemini ince ince hiçleştiriyor.
Sanal gerçekliğin iştahlı yazılımlarına teslim olan birey, görünme ve görünmeme, beğeni ve beğenilmeme paradoksu altında eziliyor.
Yoğun sosyal medya tüketicisi olan çocukların ve gençlerin direnme şansı ise yok gibi.
Z kuşağı
Dünyanın devasa ekonomilerine sahip bu şirketler, çalıştırdıkları IQ’sü yüksek insanlar ve zeki makineler aracılığıyla çocuklarımızı ve gençleri bilgi teknolojileriyle ördükleri ağlarına düşürüyorlar. Bağımlı olan gençlerde depresyon ve kaygı artıyor. Hatta sebebi bilinmeyen intiharlar gün be gün çoğalıyormuş.
1996 yılından sonra doğanlarda yani Z Kuşağında büyük oranda izlenen depresyon ve disleksi hastalıklarının sosyal medya aparatları tarafından çoğaltıldığı görüşü var. Ciddi özgüven sorunları yaşıyor, risk almaktan çekiniyorlar. Çünkü gerçeğe dokunmaktan korkuyorlar.
Ebeveynleri sıkıcı bir monoloğa dönüşen uyarıları, gündelik ‘’likeları’’ ve ‘’snapleri’’ yoğunluğunda kaybolup gidiyor. Zaman sanalda olduğu gibi onların iç dünyasında da çok hızlı akıyor artık. Aile çocuğa yetişemiyor. Aile önemsizleşiyor. Önem verilen şeyler somuttan sanala indirgeniyor. Sanal oyun, sanal arkadaş, sanal aşk, sanal cinsellik derken gerçeklikten kopuyorlar.
Gençler kendini önemli kılmak için, paylaşımlarını ‘’like’’ (beğeni) etsin diye robot hesaplar satın alıp, ‘’like’’ arttırıp, önemli olmanın hissini sanal olarak yaşıyor. Oysa aile, fiziki arkadaş gibi somut ve ücretsiz enstrümanlar kullanılmış olsaydı buna ihtiyaç duymayacak.
Son yapılan araştırmalara bakılırsa, yeni kuşaklarda romantik bir ilişkiye başlama oranı hızla düşüyor. Beğeni ve hazların biçimleri değişim gösteriyor.
Türümüz değişim eşiğinde
Facebook eski çalışanlarından Chamath Palihapitiya ‘’Hayatlarımızı bu mükemmeliyet algısının çevresinde düzenledik. Çünkü bu kısa süreli işaretler, kalpler, beğeniler ve kabullerle ödüllendiriliyoruz. Bunları değer ve gerçekle bağdaştırıyoruz. Ama aslında bu sahte ve kırılgan bir popülerlik. Kabul edin ki bu kısa süreli popülerlik sizi öncesinden daha da terk edilmiş ve boş hissediyor. Çünkü sonrasında sizi korkunç bir döngüye sokuyor; şimdi ne yapmalıyım, bana tekrar lazım diyorsunuz. Bunun iki milyar insan tarafından yaşandığını düşünün.’’
Ailenin denetiminden çıkan çocuk önce kendine olan saygısını kaybediyor, sonra da görünür olmanın yarattığı sıradanlığa tahvil ettiği kişiliğini sosyal ağın girdabına düşürüyor. Z kuşağı dediğimiz gençlik ve ardında gelecek olan Alfa kuşağı yapay zekanın pençesine düşmüş oluyor. Türümüz büyük değişim eşiğinde.
Sanal gerçeklik yetişkinlerde ve çoğunlukla da çocuklarda değer kırımına neden oluyor ki sanırım telafisi pek de mümkün olmayacak.
‘’Çevrimiçi bağlantının ana unsur olduğu bir kuşak yarattık. İletişim ve kültür dedikleri her şey manipülasyondan oluşuyor,’’ diyor sanal gerçeklik teriminin yaratıcısı Jaron Lanier.
Gelecekteki Alfa kuşağı için bizim değer yargılarımız belki de tamamen demode olacaktır. Ama insanlığın binlerce yılda biriktirdiği toplumsal değerlerin, sanal olana tahvil edilmesinin olası negatif sonuçları bizim kuşağı fena tedirgin ediyor. Kim bilir belki de konservatif bir kuşağız ve yeni olana direniyoruzdur?! Haklı mıyız, haksız mı yaşayarak öğreneceğiz artık.
Gözetim kapitalizmi
Kapitalizm Marx’ın kavramlarının ötesine geçmiş artık. ‘’Gözetim kapitalizmi’’ kavramı kullanılıyor mesela. Gözetim yapılarak ‘kesinlik’ satılıyor. Reklam verenlere satış garantisi veriyorlar ve başarıyorlar da. Nasıl mı? Çünkü tüketiciyi bir balık gibi ağa düşürmeden önce, o zeki bilgisayarlara yükledikleri yazılımlarla sizi hazırlamış oluyorlar. Sanal ticaretin somut müşterileri olarak bir çeşit hackleniyoruz yani.
Twitter eski yöneticilerinden, seri teknoloji girişimcisi Jeff Seibert “Şu bilinmelidir ki çevrim içi yaptığınız her şey görülüyor, izleniyor ve hesaplanıyor. Yaptığınız her hareket dikkatlice izleniyor ve kaydediliyor.”
Nelerden hoşlandığınızı, nasıl bir davranış alışkanlığınızın olduğunu, uyum ve tepkilerinizi, zaaflarını biliyorlar. Yani ağda bulunduğunuz süre içinde etkin bir profiliniz oluşturulmuştur zaten. Müşteri olarak hazırsınız. Her müşterinin de alacağı bir ürün vardır mutlaka. Bu tüketim çağında en ketumumuz bile sanal alış-verişten kaçınamıyoruz. Yeni nesil için ise bu ketum olma durumu söz konusu bile değil.
Harvard Üniversitesi’nden Profesör Shoshana Zuboff, internet şirketlerinin bizlere ‘kesinlik satarak’ para kazandıklarını, bunu yapmanın yolu ise ellerinde çokça veri olmasına bağlıyor.
Yeni bir pazar türüyle karşı karşıya olduğumuzu söyleyen Profesör Zuboff, ‘ticareti yapılan şey insan vadeli işlemi. Teknoloji şirketleri bu pazarda ticaret yaparak trilyonlarca dolar kazanıyorlar’ diyor.
Yapılan bir araştırmaya göre Twitterde yalan haberler, doğru haberlerden altı kat daha hızlı yayılıyormuş. Çünkü gerçekler sıkıcı görülüyor ve yalan olan şey’ler tıklandığı için şirketlere daha fazla para kazandırıyormuş.
Nasıl başa çıkacağız…
Sosyal medyanın creative ekiplerinde çalışmış bir yazılımcı ‘Beğen tuşunu yarattığımızda amacımız dünyaya sevgi yaymaktı. Ama bu niyetimiz bakın ne hale geldi! Gençler yeterince beğeni almadığında depresyona giriyor ve beğeni tuşu siyasi kutuplaşmaya neden oluyor, bu hiç aklımıza gelmedi’ diyor.
En korktuğunuz şey sorusuna ‘’en kısa vadede iç savaş’’ yanıtı veriyor konuşmacılardan biri. Haksız sayılmaz. Amerika’da yaşanan ‘’Pizzagate’’ etiketiyle paylaşılan asparagas haberlerin neden olduğu olayları hatırlatıyor bir başka konuşmacı.
Peki nasıl kurtulacağız bu ‘beladan’ sorusuna verilen şu cevap iç karartımızı aydınlatıyor bir miktar: ‘Çok kârlı olmasına rağmen kölelik ticaretini ve organ ticaretini insani olmadığı için yasakladığımız gibi bunu da yasaklayabilir ya da sınırlayabiliriz.’
Karamsarlığımızı dağıtan başka bir görüş de şöyle; ‘gazeteler, basın yayın ve tv çıktığında da böyle bir şaşkınlık ve değişim yaşandı. Burada yeni bir aşama, yeni bir düzey var, bununla da yaşamayı öğreneceğiz’ deniliyor.
Ama bir başka ‘uzman’, ‘bu cihazlarla yaşamayı öğreneceğiz’ algısına itiraz ediyor. Bu algının yanılgısı şu; ‘bu, bugüne değin gördüğümüz en yeni şey’ diye itiraz ederek tekrar kaygının karanlık sokaklarına salıyor bizi.
NVIDIA yöneticisi bu tartışmaya şöyle giriyor; “Belki de en tehlikesi katlanarak gelen bir teknoloji ile destekleniyor olması. Kabaca 1960’lardan bu güne kadar olan dönemi incelersek, işleme gücü bir trilyon kat arttı. Sahip olduğumuz hiç bir şey bu orana yakın düzeyde artmadı. Örneğin arabalar, yaklaşık iki kat hızlandı o kadar. Bunun dışında hemen her şey görmezden gelinebilir. Bel ki de en önemlisi insan fizyonomisi, beynimiz hiç gelişmedi” diyor.
Tehlikeye dikkat çeken son bir soru da şöyle; “insanlarda zihinsel, bedensel ve fiziksel düzeyde esaslı bir değişim olmadı. Beyin milyonlarca yıllık. Bir de bir ekran var ve ekranın karşı tarafında sizin amacınızdan farkı amaçları olan binlerce mühendis ve süper bilgisayarlar var. Peki bu oyunda kim kazanacak?”
Stephen Hawking, ölmeden önce, adeta nasihat edercesine, yapay zeka çalışmalarını durdurun, insanlığın sonu getirebilir demişti; umarız yanılır…
