Havza Haber Ajansı muhabirinin aktardığına göre, son günlerde yapay zeka ve bilişsel bilimlerdeki analitik kökleri üzerine yapılan tartışmalarla birlikte “bilişsel yönetişim” kavramı da gündeme gelmektedir. Bu konuda yapay zeka ve bilişsel bilimler alanında araştırmacı ve aynı zamanda İlim Havzaları Yapay Zeka Konseyi üyesi olan Dr. Muhammed Rıza Kasemi ile bir söyleşi gerçekleştirdik.
Söyleşinin başında şu soruyu yönelttik:
‘Bilişsel yönetişim’ tam olarak ne anlama gelmektedir?
Bilişsel yönetişim dijital çağda ortaya çıkan yeni bir paradigmadır. Bu kavram; yapay zeka, büyük veri işleme ve hatta sosyal mühendislik gibi bilişsel bilim temelli teknolojilerin vatandaşların davranışlarını etkilemek ve yönlendirmek amacıyla kasıtlı ve stratejik biçimde kullanılmasını ifade eder. Teknik açıdan bakıldığında bunu derin öğrenme algoritmalarına (Deep Learning Models), davranışsal büyük veri analizine (Behavioral Big Data Analytics) ve psiko-sosyal mühendisliğe (Psycho-Social Engineering) dayalı bir yönetişim biçimi olarak tanımlamak mümkündür.
Basit bir ifadeyle hükümetler insanların davranışsal ve psikolojik verilerini derinlemesine analiz ederek bireylerin farkında olmadan istenilen karar ve davranışlara yönlendirileceği ortamları, yasaları ve uyarıcıları tasarlayabilirler. Bir başka deyişle bilişsel yönetişim; insanların zihin ve davranışları üzerinde görünmez bir kontrol sağlayan modern bir yönetim aracıdır. Çünkü yapay zeka sayesinde artık insan davranışlarının en küçük ayrıntıları ve hatta bilinçdışı tepkileri bile analiz edilebilmektedir. Bu yönetişim modelinde davranışları zorla değiştirmeye veya doğrudan baskı uygulamaya gerek yoktur; bunun yerine ortamlar ve yasalar öyle tasarlanır ki kişi farkında olmadan zaten önceden belirlenmiş kararı verir. İşte bu noktada insanın özgür iradesi tartışma konusu haline gelmektedir.
Peki bu olguyu ‘toplum mühendisliği’ veya ‘ileri düzey yumuşak güç’ gibi ifadelerle tanımlayabilir miyiz?
Doğrudur. Bilişsel yönetişimin klasik yönetişim biçimlerinden en önemli farkı onun “görünmez” doğasında (Invisible Consent Engineering) yatmaktadır. Geçmişte hükümetler daha çok açık ve sert güç araçlarını kullanırken bugün veri ve algoritmalar sayesinde vatandaşların doğrudan fark etmediği bir liderlik ve kontrol biçimi oluşabiliyor. Çünkü algoritmalar bir toplumun ya da küresel ölçekte bireylerin psikolojik zayıf noktalarını tek tek hedef alıp bunlara yönelik programlar geliştirebiliyor.
Bu olgunun olumlu bir yönü de olabilir mi? Yani toplumsal güçlerin verimliliğini artırmak veya geliştirmek için kullanılabilir mi? Devletler ve toplumlar açısından fırsatlar da yaratır mı?
Yeni ortaya çıkan her araç ve teknoloji hem bir fırsat hem de bir tehdit olabilir; bu tamamen onun nasıl kullanıldığına bağlıdır. Bilişsel yönetişim de fırsatlar barındırır: Karar alma mekanizmalarının daha verimli hale getirilmesi, kamu hizmetlerinin optimize edilmesi, kaynakların daha iyi yönetilmesi ve hatta krizlerin önceden tahmin edilmesi gibi. Örneğin vatandaşların davranış kalıpları doğru şekilde analiz edilirse birçok sosyal, ekonomik veya çevresel sorunun önüne geçilebilir.
Burada önemli olan bu teknolojinin insanın iradesine ve özgürlüğüne zarar vermeden; daha çok öneri ve tavsiye niteliğinde kullanılmasıdır. Yani kontrolsüz ve başıboş algoritmalarla değil; denetimli, yasal çerçeveler içinde uygulanması gerekir.
Bu konuda en büyük endişeler nelerdir ve neden bilişsel yönetişimden kaygı duymalıyız?
Bilişsel yönetişim alanında çok ciddi tehditler söz konusudur ve bunların en önemlilerine değinmek gerekir. İlk ve en temel endişe insanın değeri, insan hakları ve bireyin irade ve özgürlüklerinin korunmasıdır. İkinci büyük endişe ise mahremiyet meselesidir; çünkü siber dünyanın büyümesiyle birlikte kişisel veriler ciddi tehditlerle karşı karşıya kalmıştır.
Eğer hükümetler ya da daha da tehlikelisi büyük siber hizmet sağlayıcı şirketler bireylerin davranışlarını ve psikolojik eğilimlerini ayrıntılı biçimde takip ve analiz etme kapasitesine sahipse, vatandaşların kararlarının bilinçli olarak manipüle edilmesi veya kötüye kullanılması ihtimali artar. Bugün bile sosyal medya ve dijital reklamcılıkta bunun örneklerini görüyoruz: Reklamlar son derece hedef odaklı hale gelmiş durumda ve insanlar farkında olmadan doğrudan kendilerini hedef alan bir propaganda ile karşı karşıya kalıyorlar. Hatta kişiye gösterilen haberler ve bilgiler bile kişiselleştirilmiş biçimde düzenleniyor; kurduğu sosyal bağlantılar ve ona önerilen içerikler hep belli bir yönde şekillendiriliyor.
Mesela bir kişinin belirli bir siyasi parti veya grubun haberlerini daha çok takip etmesi durumunda, kısa bir süre sonra karşısına çıkan tüm haberlerin aynı siyasi çizgide olduğunu fark ediyor. İnsan zihni bu aşamada yanılgıya düşerek tüm sanal dünyanın o siyasi çizginin hakimiyetinde olduğu izlenimine kapılıyor ve yanlış analizler yapabiliyor. Bu bile şu anda fiilen yaşanan en basit manipülasyon örneklerinden biridir.
Bu durum veri ve teknolojiye erişimi olanlarla olmayanlar arasında ciddi bir güç eşitsizliği yaratıyor. Bir şirketin kullanıcı sayısı ne kadar fazlaysa onun siyasi, kültürel ve ekonomik gücü de sosyal boyutta o kadar olağanüstü artıyor. Üstelik şirketler bu kapasiteyi çoğu zaman sermaye sahiplerine reklam ve benzeri anlaşmalar yoluyla satıyor. Bu tablo, dünyanın geleceği açısından gerçekten endişe verici bir durumdur.
Bilişsel yönetişimin geleceğini nasıl görüyorsunuz? Büyüme süreci durdurulabilir ya da sınırlandırılabilir mi?
Gerçek şu ki bilişsel yönetişim günümüzde giderek yönetişimin temel direklerinden biri haline geliyor; bazı uzmanlar buna “algoritmik hegemonya” (Algorithmic Hegemony) diyor. Bu süreç büyük ölçüde başlamış durumda. Eğer güçlü devlet kurumları tarafından katı etik ve hukuki çerçeveler oluşturulup hayata geçirilmezse, bizi bireysel iradenin ve seçme özgürlüğünün sadece bir yanılsama olduğu bir dünyaya götürecek. Böylesi bir dünyada benzeri görülmemiş ölçekte bir bilinçdışı toplumsal yeniden tasarım (Deterministic Cognitive Infrastructures) gerçekleşir. Büyük çokuluslu şirketler adeta insanların zihin ve psikolojilerini alıp satar hale gelir.
İnsanlar görünüşte özgür olacak ve kendi kararlarını aldıklarını sanacaklar; fakat gerçekte kararları önceden programlanmış olacak ve yapay zeka bu kararları bilinçaltlarına işlemiş bulunacak.
Bu yüzden küresel toplum, yapay zeka ve bilişsel teknolojilerin sunduğu fırsatlardan yararlanırken eşzamanlı olarak insan onurunu, seçme özgürlüğünü ve algoritmaların işleyişindeki şeffaflığı koruyacak güçlü etik ve hukuki mekanizmalar oluşturmalıdır. Ancak bu sayede bu güçlü aracın bütün insanlığın yararına kullanılacağından emin olabiliriz.
yorumunuz