Havza Haber Ajansı’nın aktardığına göre, “Yapay Zekâda Önyargılar” başlıklı bilimsel toplantı, İslam Kültür ve Düşünce Araştırma Enstitüsü’nün Bilgi Teorisi ve Bilişsel Bilimler Grubu tarafından düzenlendi. Program, Hüccetü’l-İslam Dr. Alirıza Gaeminiya’nın sunumuyla İslam Kültür ve Düşünce Araştırma Enstitüsü’nün Düşünce Salonu’nda gerçekleştirildi.

Toplantıda konuşan Hüccetü’l-İslam Gaeminiya, öncelikle yapay zekânın nesnelliği ve nesnellikten uzak olup olmadığı konusunu ele aldı ve şu soruyu sordu: “Yapay zekâ ile gerçekten bir tür nesnellikle mi karşı karşıyayız, yoksa değil miyiz?” Kamuoyundaki yaygın kanının, yapay zekânın önyargısız bir bilgi kaynağı olduğu yönünde olduğunu belirten Hüccetü’l-İslam Gaeminiya, bunun genel bir kanaat olduğunu ifade etti. Ancak birçok uzman, yapay zekânın kusursuz bir bilgi sağladığını düşünmektedir. Yapay zekâ, matematik, sosyal bilimler ve psikoloji gibi farklı bilim dallarında kullanılmaktadır. Bu alanların çoğunda, yapay zekânın nesnel ve önyargısız bilgi ürettiğine inanılmaktadır.

Konuşmasının devamında, yapay zekânın nesnelliğine inananların öne sürdüğü gerekçelere değinen Hüccetü’l-İslam Gaeminiya, bu kişilerin iki ana sebep sunduğunu ve birincisinin şu şekilde olduğunu belirtti:

"Yapay zekâ, belirli bir matematiksel ve mantıksal temele dayanmaktadır. Matematik, yapay zekânın temelini oluşturur ve nesnel bir bilimdir. Bu nedenle yapay zekânın da nesnel olduğu ve önyargısız bilgi sağladığı düşünülmektedir."

Ardından Hüccetü’l-İslam Gaeminiya, yapay zekânın nesnelliğini savunanların ikinci gerekçesinin veri odaklılığı olduğunu belirterek şunları söyledi: “Yapay zekâ, veriler üzerine inşa edilmiştir; veri madenciliği yapar ve simülasyonlar üretir. Bu yüzden, veriye dayalı olduğu için tarafsız olduğu düşünülmektedir.”

Ancak, İslam Kültür ve Düşünce Araştırma Enstitüsü öğretim üyesi olan Hüccetü’l-İslam Gaeminiya, ikinci bir teoriden bahsederek şunları ekledi: “Bazı araştırmacılar, yapay zekânın belirli bir tür önyargıya sahip olduğunu ve bunun ‘algoritmik önyargı’ olarak adlandırıldığını savunuyor. Yapay zekâ büyük hatalar yapabilir. Öte yandan, insanın kendisinde bulunan ve ‘bilişsel önyargı’ olarak bilinen bir eğilim de mevcuttur.”

Konuşmasının devamında Hüccetü’l-İslam Gaeminiya, verilerin algoritmalardan önce geldiğine dikkat çekerek şu ifadeleri kullandı: “Yapay zekâ algoritmalarla çalışıyor olsa da, aslında bazı unsurlar algoritmalardan önce gelir. Bunların başında ise veriler yer alır. Veri kategorilendirme ve algoritma süreçlerinde hatalar meydana gelebilir. Bu da yapay zekânın mutlak bir nesnelliğe sahip olduğu fikrini sorgulamamıza neden olur. Sonuç olarak, yapay zekâda belirli bir önyargı biçimi bulunmaktadır ve bu, insanın sahip olduğu bilişsel önyargıdan farklıdır.”

Hüccetü’l-İslam Gaeminiya, konuşmasının devamında insanın sahip olduğu bazı bilişsel önyargılara değindi ve şunları söyledi: “Bilişsel önyargılardan biri ‘doğrulama önyargısıdır.’ İnsanlar genellikle, mevcut inançlarını ve görüşlerini destekleyen verileri seçmeye eğilimlidir. Bu eğilim sistematiktir ve insan beyninin işleyişi üzerinde doğrudan etkisi olan kültür, gelenek ve görenekler gibi faktörlerden beslenir.”

Ardından, “dikkat önyargısı” konusuna değinerek şunları söyledi: “İnsanlar genellikle kendileri için önemli olan uyaranlara daha fazla dikkat eder. Örneğin, bir kişi kedilerden korkuyorsa bir eve veya ortama girdiğinde önce o ortamda kedi olup olmadığına dikkat eder. Ancak orada bir hamam böceği ya da başka bir böcek olup olmadığını fark etmeyebilir, çünkü onun için önemli olan şey kedidir.”

Hüccetü’l-İslam Gaeminiya daha sonra “kendine hizmet eden önyargıyı” (self-serving bias) açıkladı ve şu ifadeleri kullandı: “İnsanlar genellikle başarılarını kendilerine mal ederken, başarısızlıklarının sorumluluğunu başkalarına yükleme eğilimindedir. Örneğin, biri bir sınavda yüksek not aldığında, ‘Kendi çabamla başardım’ der. Ancak düşük not aldığında, ‘Ben aslında iyi çalıştım ama sınav soruları standart değildi’ diyerek başarısızlığını dışsal faktörlere bağlar.”

Son olarak, bilişsel önyargılar ile mantık hataları arasındaki ilişkiye değinen Hüccetü’l-İslam Gaeminiya şunları söyledi: “Önemli bir nokta şudur: Mantık hataları ile bilişsel önyargılar aynı şey değildir. Aslında, bilişsel önyargılar mantık hatalarının temelini oluşturur.”

Hüccetü’l-İslam Gaeminiya, bilişsel ve algoritmik önyargılar arasındaki farklara değinerek şu ifadeleri kullandı: “Algoritmik önyargı, verilere, veri miktarına ve kalitesine bağlıdır. Bilişsel önyargı ise insan beynine dayanır. Aslında bilişsel önyargı, algoritmik önyargının kaynağı olabilir; dolayısıyla bilişsel önyargı, algoritmik önyargıdan daha temel bir kavramdır.”

Daha sonra, bilişsel ve algoritmik önyargılar arasındaki altı temel farkı açıkladı. Öncelikle, bu iki önyargının kaynaklarının farklı olduğunu belirtti ve şöyle dedi: “Yapay zekânın kaynağı veri ve algoritmalardır. Ancak bilişsel önyargının kaynağı insanın deneyimleri, kültürü ve gelenekleridir.”

İkinci fark olarak mahiyetlerini ele aldı ve şöyle dedi: “Algoritmalar sayısal (kantitatif) bir yapıya sahiptir, ancak bilişsel süreçler daha karmaşık ve niteliksel (kalitatif) bir doğaya sahiptir. Bu nedenle, doğaları gereği birbirlerinden farklıdırlar.”

İslam Kültür ve Düşünce Araştırma Enstitüsü öğretim üyesi olan Gaeminiya, üçüncü farkın veri miktarıyla ilgili olduğunu belirterek şunları ekledi: “Yapay zekâ, ne kadar fazla veriyle çalışırsa o kadar iyi sonuçlar üretir. Ancak veri miktarı azaldığında performansı düşer ve önyargılar artar. Yapay zekâda veri hacmi ve çeşitliliği kritik öneme sahiptir.”

Dördüncü fark olarak önyargıların tahmin edilebilirliği konusuna değindi ve şunları söyledi: “Algoritmik önyargılar tespit edilip düzeltilebilir. Ancak bilişsel önyargılar söz konusu olduğunda, bunları tahmin etmek ve düzeltmek çok daha zor ve karmaşıktır.”

Hüccetü’l-İslam Gaeminiya, üçüncü fark olarak etki ölçeğini ele aldı ve şu açıklamada bulundu: “Algoritmik önyargının etkisi geniş çaplı ve sistematiktir. Buna karşılık, bilişsel önyargı bireysel veya grup düzeyinde kalabilir ve diğer toplumlara yayılmayabilir. Ancak yapay zekâ destekli bilişsel savaşlar, hem algoritmik hem de bilişsel önyargıların yayılmasını hızlandırmaktadır.”

Dördüncü fark olarak düzeltilebilirlik konusunu ele aldı ve şu ifadeleri kullandı: “Derin öğrenme sayesinde veriler üzerinde değişiklikler yaparak algoritmaları düzeltebiliriz. Yapay zekâda bu mümkünken, insanın bilişsel önyargılarını düzeltmek çok daha zor ve zaman alıcıdır.”

Beşinci fark olarak şeffaflığa dikkat çekerek şunları söyledi: “Yapay zekâda önyargılar belgelenebilir ve nedenleri analiz edilebilir. Ancak bilişsel önyargılar genellikle bilinçdışı bir şekilde ortaya çıkar. Bu nedenle, özellikle siyasi ve sosyal alanlarda tam olarak tespit edilmeleri oldukça zordur.”

Son olarak, bilişsel uyumsuzluk (cognitive dissonance) kavramına değinen Hüccetü’l-İslam Gaeminiya, konuyu şu şekilde özetledi: “Bilişsel psikologlar, insan zihninde özel bir süreç keşfetmiştir. İnsan, eylemlerinde bir çelişki veya tutarsızlık hissettiğinde, zihinsel sistemleri bu düzensizliği gidermek için kendilerini yeniden yapılandırır. Peki, yapay zekâda ‘algoritmik uyumsuzluk’ diye bir şey var mı? Eğer böyle bir durum gerçekten varsa – ki bazı kanıtlar bunu destekliyor – o zaman yapay zekâda ciddi hatalara neden olabilir. Bu da gösteriyor ki, algoritmik önyargıyı yapay zekâdan tamamen ortadan kaldırmak mümkün değildir.”

Hüccetü’l-İslam Gaeminiya, toplantının sonunda algoritmik önyargı konusunda iki temel görüşü ele aldı ve şu açıklamayı yaptı: “Bu konuda iki farklı teori bulunmaktadır. İlkine göre, yapay zekâ insanlardan bağımsız olarak çalışabilir. İkinci görüş ise yapay zekânın insan iş birliğiyle çalıştığını savunmaktadır.”

Konuşmasını özetlerken Hüccetü’l-İslam Gaeminiya şu sonuca vardı: “Gerçek şu ki, robotlar ve yapay zekâ sistemleri insanlardan tamamen bağımsız olamaz. Bu bağımsızlık eksikliği, yapay zekânın insani bilişsel önyargılarından etkilenmesine neden olur. Diyelim ki yapay zekâ belirli alanlarda nesnellik sağlayabiliyor; ancak bu sosyal bilimler, psikoloji gibi alanlar için geçerli değildir. Çünkü bilişsel önyargılar bu alanlarda kaçınılmazdır. Dolayısıyla yapay zekâ, ‘algoritmik uyumsuzluk’ ile karşı karşıya kalmaya devam edecektir.”