Son on yılda ABD’de, Avrupa ülkelerinde ve ülkemizde popülist politik söylemlerin arttığını ve demokrasinin gerilediğini gözlemliyoruz. Buna paralel olarak, yapay zekâya dayalı yenilikler de birer birer günlük yaşam rutinimize dahil oluyor. Hem olumlu hem de olumsuz gelişmelere aynı anda tanıklık ediyoruz. Peki yapay zekâ ve diğer teknolojiler bizleri gerçekten daha özgür mü kılıyor yoksa sesimizi daha da zayıflatmak için mi kullanılıyor? Bu metinde örneklerle bu soruya yanıt arayacağım.



Bilgisayarlı Görü ve Gözetim Teknolojileri

Önce teknolojiden başlayalım. Bugün büyük dil modelleri, bilgisayarlı görü [computer vision] ile resim ve video işleme teknolojileri, çeşitli üretken yapay zekâ araçları günlük hayatımızın ayrılmaz bir parçası hâline geldi. Yazılım mühendisliği pratikleri hâlâ geçerliliğini korusa da artık hiçbir yazılım bilgisine sahip olmadan herhangi bir dilde kod yazmak, hatta karmaşık sayılabilecek yazılımlar ve internet siteleri geliştirmek mümkün.

Bu gelişmelerin arkasında derin öğrenme algoritmaları bulunsa da asıl başarıyı mümkün kılan unsur büyük veri. Sadece görsel veriyi ele alalım: YouTube’a her dakikada beş yüz saatin üzerinde video yükleniyor. Diğer sosyal medya platformlarını, gazeteleri, blogları ve benzeri kaynakları da düşündüğümüzde erişilebilecek görsel veri miktarı inanılmaz bir ölçeğe ulaşıyor.

Geçtiğimiz aylarda Nature dergisinde yayımlanan bir makaleye göre bilgisayarlı görü alanındaki araştırmalar gözetim teknolojilerine güç kazandırıyor.¹ İnsan hareketini takip etmek ve gözetim amacıyla kullanılabilecek bilgisayarlı görü araştırma makaleleri ve patentlerinin sayısı 2010’lu yıllarda 1990’lardakine kıyasla beş kat artmış durumda. Dahası, bu metinlerin önemli bir kısmında insanlardan, herhangi bir etik kaygı gözetmeksizin ya da özel izin alınmaksızın, yalnızca üzerinde çalışılan nesneler olarak bahsediliyor.

Araştırma kapsamında 19.000 bilimsel makale ve 23.000 patent üzerinde metin analizi ve içerik incelemesi yapılmış. Rastgele seçilen 100 makalenin %90’ı, patentlerin ise %86’sı insan veya insan yaşam alanlarına ait içerikler barındırıyor.

Şu karşılaştırmayı düşünelim: Eğer bir ilaç geliştirme çalışmasına katılacak olsanız, bir doktor hastanedeki tıbbi görüntülerinizi bilimsel bir araştırmada kullanmak ya da terapistiniz size uyguladığı test sonuçlarını ve görüşmeleri farklı bir amaçla paylaşmak istese, bu çalışmaları yürüten araştırmacılar bağlı oldukları kurumların etik kurulundan onay almak ve sizin yazılı izninizi temin etmek zorunda. Oysaki bilgisayarlı görü alanında genellikle bu tür izinler alınmadan insanlara ait fotoğraflar ve videolar bilimsel çalışmalarda kullanılmakta. Tıbbi verilerimizin kullanılması için etik kurullar ve yazılı izinler aranırken, neden kamusal alandaki görüntülerimiz üzerinde böyle bir hassasiyet gösterilmiyor?

Geliştirilen algoritmaların ya da bu verilerle eğitilen modellerin gözetim amaçlı ya da başka biçimlerde kötüye kullanılma ihtimali ise çoğu zaman değerlendirme konusu bile yapılmıyor. Bu, gerçekten de göz ardı edilemeyecek kadar ciddi bir sorun.

Şöyle bir önyargıya sahiptim: Gözetim teknolojileriyle ilgili makaleler ve patentler büyük olasılıkla demokrasinin zayıf olduğu ülkelerde üretilmiştir. Ancak aynı çalışmaya göre, insan gözetimi amacıyla kullanılan patentlerin sayısında Microsoft, Carnegie Mellon Üniversitesi ve Massachusetts Teknoloji Enstitüsü (MIT) başı çekiyor. Benzer şekilde, ABD’den alınan gözetimle ilgili patent sayısı Çin’inkinin üç katından fazla.* Patent dağılımına baktığımızda Birleşik Krallık, Almanya, Fransa, İsviçre, Kanada ve Japonya gibi köklü demokrasi geleneği olan ülkeler de listenin üst sıralarında yer alıyor.

Kısacası, insan davranışlarını otomatik olarak izlemeye yarayan teknolojik buluşların önemli bir kısmı görece daha güçlü demokrasilere sahip ülkelerden çıkıyor. Bu durumu çelişkili buluyorum. Bir yanda birkaç yüzyılda elde edilmiş temel haklar, hukuk devleti ilkeleri ve demokratik değerler içinde yaşayan insanlar, diğer yanda bu değerlerle çelişen, polis devleti uygulamalarına hizmet edebilecek, demokrasiyi zayıflatabilecek teknolojilerin peşinden giden aynı insanlar… Bu, üzerinde durulması gereken ciddi bir çelişki.

Elbette burada çözüm teknoloji karşıtlığı değil. Mühendislik, temel bilimler ve bilgisayar bilimleri gibi alanlarda çalışan araştırmacıların, araştırma kurumlarının ve devletlerin, geliştirilen teknolojilerin etik dışı kullanım alanlarına karşı daha duyarlı olması gerekiyor. Çünkü bu teknolojilerin hem kullanıcılarıyız hem de neredeyse her adımımızda onlara veri sağlayan birer kaynak hâline geliyoruz. Dolayısıyla sıradan bireyler olarak bizlerin de bu konuda bilinçli olması sürecin yönünü ciddi biçimde değiştirebilir.

Demokrasinin Çöküşü

Teknolojik gelişmelerin yarattığı bu etik açmazları daha geniş bir bağlamda değerlendirmek için demokrasinin mevcut durumuna da bakmak gerek.

Öncelikle demokrasinin ne anlama geldiğiyle başlayalım. Bu konuda İsveç’teki Göteborg Üniversitesi Siyaset Bilimi Bölümü bünyesinde faaliyet gösteren V-Dem (Varieties of Democracy) Enstitüsü’nün kapsamlı bir çalışması öne çıkıyor. Enstitü geliştirdiği bir metrik aracılığıyla, 1789’dan 2024’e kadar 202 ülkeden toplanan verilerle demokrasinin değişimini inceliyor.

Bu çalışmada yönetim biçimleri otokrasiden demokrasiye uzanan bir eksende dört başlık altında sınıflandırılıyor:

• Kapalı Otokrasi: Yürütme organı için çokpartili seçimlerin yapılmaz; ifade özgürlüğü, örgütlenme hakkı ve özgür/adaletli seçimler gibi temel demokratik unsurlar bulunmaz.
  
• Seçimli Otokrasi: Yürütme organı için çokpartili seçimler yapılır; ancak ifade ve örgütlenme özgürlüğü ile seçimlerin özgür ve adil olması gibi temel demokratik koşullar yetersizdir.
  
• Seçimli Demokrasi: Yürütme organı için yapılan çokpartili seçimler özgür ve adildir. Oy hakkı, ifade özgürlüğü ve örgütlenme hakkı yeterli düzeydedir.
  
• Liberal Demokrasi: Seçimli demokrasinin tüm koşulları sağlanır; bunun yanında yürütme organı üzerinde yargı ve yasama denetimi bulunur, sivil özgürlükler korunur ve hukukun üstünlüğü ile kanun önünde eşitlik ilkeleri işlerlik kazanır.
  

V-Dem Enstitüsü’nün bu çalışmasına göre dünya üzerindeki otokratik rejimlerin sayısı (91), son yirmi yıl içinde ilk kez demokratik rejimlerin sayısını (88) geride bıraktı. Dünya geçtiğimiz yüzyılda iki büyük otoriterleşme dalgası yaşadı: İlki 1926–1942 yılları arasında, İkinci Dünya Savaşı’na giden süreçte, ikincisi 1961–1977 yılları arasında gerçekleşti. V-Dem tarafından yapılmış önceki çalışmalar ve Mart 2025’te yayımlanan rapora göre, 1990’lardan bu yana üçüncü bir otoriterleşme dalgasının içindeyiz ve güncel veriler pek olumlu bir değişime işaret etmiyor.

2010’dan bu yana, teknolojinin günlük hayatımıza etkileri belirgin biçimde artmış durumda. İlk bölümde ele aldığımız bilgisayarlı görü ve yapay zekâ bu dönüşümün önemli bir parçasını oluşturuyor.

Tali Sharot ve Cass R. Sunstein, Science dergisinde yayımladıkları bir editöryel yazıda şu soruyu soruyor: Demokrasinin gerilemesine alışacak mıyız?² Kullandıkları benzetme gayet yerinde: Nasıl ki sigara dumanıyla dolu bir odada yirmi dakika geçirdikten sonra kokuyu fark etmemeye başlıyorsak ya da bir klimanın uğultusu ya da şehir trafiğinin gürültüsü gibi sürekli sesleri bir süre sonra algılamıyorsak, bugünkü durum da benzer şekilde işliyor. Demokratik normların, temel hak ve özgürlüklerin ya da etik kuralların ihlal edildiğini gördüğümüzde sessiz kalıyorsak, bir süre sonra bu değişime alışabilir, onu “normal” olarak benimseyebiliriz. Çünkü insan beyni ve davranışları çevresel değişimlere karşı zamanla duyarsızlaşabiliyor.

Associated Press ve Ipsos’un yaptığı bir araştırmaya göre 2006 yılında Amerikalıların %44’ü bir hikâyeyi daha ilgi çekici hâle getirmek için gerçeklerin abartılmasını doğru buluyordu. 2018’de bu oran %66’ya yükselmiş. Bu değişimin temelinde ise “gerçek sonrası” [post-truth] olarak tanımlanan koşullar yatıyor. Artık hakikatin kendisinden çok nasıl algılandığı önem taşıyor; yalan haberler ve manipülasyonlar bu algıyı şekillendiriyor.

Benzer bir alışma sürecini teknolojiyle kurduğumuz ilişkide de yaşıyoruz. Artık cep telefonlarımızın kilidini bilgisayarlı görüye dayalı yüz tanıma sistemleriyle açmak bize son derece doğal geliyor. Ancak aynı teknolojinin dünyanın uzak bir köşesinde bir soykırımın parçası olarak kullanılması ya da kullandığımız teknoloji şirketlerinin, geliştirdikleri dronlar aracılığıyla sivil ölümlerine neden olması çoğu zaman umurumuzda olmuyor.

Teknolojik araçların sunduğu nimetlerden yararlandıkça bu teknolojilerin etik açıdan sorunlu yönlerini görmezden gelme eğilimimiz artıyor. Benzer şekilde, demokrasiyi aşındıran küçük ama önemli gelişmeleri de çoğu zaman fark etmiyor ya da önemsemiyoruz. Belki de bir noktadan sonra, artan otoriterleşme eğilimleriyle yapay zekâ devrimi birbirini besleyen süreçler hâline geliyor. Şimdi biraz da bu konuya yakından bakalım.

Otokrasi ve Yapay Zekâ İnovasyonları Arasındaki Denge

Acaba otoriter yönetimler yapay zekâyı yeni ve etkili bir araç olarak kullanıyor ve bu alanda yatırım yapan sermaye sahipleri de otoritenin yanında konumlanmayı mı tercih ediyor? Bu soru üzerine düşünmeye ve araştırmaya devam ettikçe konunun yalnızca siyaset bilimiyle değil ekonomiyle de doğrudan ilişkili olduğunu fark ettim.

Martin Beraja, Andrew Kao, David Y. Yang ve Noam Yuchtman, The Quarterly Journal of Economics’te yayımladıkları “AI-tocracy” başlıklı makalelerinde bu ilişkiyi kapsamlı biçimde inceliyor.³ Ele aldıkları örnek Çin ve yüz tanıma teknolojileri. 2010’ların başından bu yana Çin hükümeti toplumsal olayları önlemek ve bastırmak amacıyla otomatik yüz tanıma sistemlerini etkin biçimde kullanıyor. Bu teknolojilerin gerçekten işe yaradığını gösteren bulgular var: Devletle sözleşme imzalayan şirketler bu sistemleri geliştirip sattıkça kazanç sağlıyor ve işbirliğini sürdürüyor. Bu alanda devletle doğrudan sözleşmesi olmayan şirketler ise gözle görülür bir dezavantaj yaşamıyor. Böylece Çin’deki yapay zekâ inovasyonu sürdürülebilir bir yapıya bürünüyor ve siyasi otorite ile teknolojik gelişim birbirini karşılıklı olarak besliyor.

Çalışma bu dengeyi yüz tanıma teknolojisi ve Çin rejimi örneği üzerinden veri ve istatistiksel yöntemlerle destekliyor. Örneğin sosyal ayaklanmaların yoğunlaştığı bölgelerde Çin hükümeti yüksek çözünürlüklü kameralar ve yapay zekâ sistemlerinin tedarikini artırmış. Yapay zekânın işgücü gerektiren bazı alanlarda insanın yerini alabileceği zaten öngörülüyordu. Bu bağlamda, sokak olaylarının ardından devreye alınan gözetim teknolojilerinin etkisiyle, takip eden yıl yerel polis birimlerinde işe alımlarda azalma gözlenmiş.

Çin’in bu gözetim teknolojileriyle sağladığı “başarı”, başka otoriter rejimler tarafından da örnek alınmış görünüyor. Son yıllarda Rusya da yüz tanıma sistemlerini aktif biçimde kullanmaya başladı.

Aslında bu tür ilişki biçimleri sadece otokratik rejimlerle sınırlı değil. Örneğin ABD’nin biyometrik teknolojilerle ilgili araştırma programlarına fon sağlayan devlet kurumu DARPA (Savunma İleri Araştırma Projeleri Ajansı), Fransa’nın nükleer mühendisliğe yönelik teşvik politikaları ve İsrail ordusunun yüksek teknoloji sektörlerini desteklemesi de bu denklem içinde değerlendirilebilir.

Donald Trump ve Elon Musk arasındaki ilişki de (her ne kadar son zamanlarda araları açık görünse de) bu yapının başka bir örneği olabilir. Musk sahip olduğu sosyal medya platformları ve algoritmalar üzerinden Trump lehine dezenformasyon yaptı. Karşılığında ise Tesla ve SpaceX gibi şirketleri aracılığıyla hükümetten büyük sözleşmeler aldı, hatta yeni yönetimin bir parçası oldu.

Yarından Neler Bekliyoruz?

Sadece üçüncü dünya ülkeleri değil tüm küresel sistem bir otoriterleşme dalgasının içinde. ABD’de Trump’ın yeniden seçilme olasılığı bir yana, Avrupa genelinde aşırı sağ ve popülist partilerin yükselişine, yabancı düşmanlığının artışına tanık oluyoruz. Elbette dünyadaki kötülüğün kaynağı doğrudan teknoloji değil. Ancak bugün, teknolojinin, özellikle de yapay zekânın demokrasiyi zayıflatacak bir araç olarak kullanılması ciddi bir tehdit oluşturuyor.

Öte yandan her geçen gün yeni bir dil modeli tanıtılıyor. Görüntü ve metin üretiminde kullanılan üretken yapay zekâ uygulamaları günlük yaşamlarımızı büyük bir hızla dönüştürüyor. Bu hızlı akışta belki de yapabileceğimiz en makul şey yönümüzü ve kontrolü kaybetmemek. Çünkü bu teknolojiler çoğu zaman kişisel verilerimizle ve kısmen devlet destekli fonlarla yani vergilerimizle geliştiriliyor.

Bu nedenle etik sorumluluk da bizde başlıyor. Ürünlerini kullandığımız bir teknoloji şirketinin Çin’de gözetim kameraları aracılığıyla etnik profilleme yaparak Uygur soykırımına destek verdiğini öğreniyorsak, o şirketin ürünlerini bir daha almamak bir adım olabilir. Benzer şekilde, ülkemizdeki bazı teknoloji şirketleri doğrudan ya da tedarik zinciri aracılığıyla Yemen’de veya Gazze’de sivillerin katledilmesine katkı sağlıyorsa, buna karşı demokratik tepkimizi göstermek elimizdedir.

Kısacası, manzara ne kadar karanlık olursa olsun, sesimizi kullanmak küçümsenecek bir şey değil. Bu sayede hem manipülasyona karşı daha bilinçli bir teknoloji kullanıcısı olabilir hem de teknolojinin hükümetler tarafından demokrasinin altını oyacak bir araca dönüşmesinin önüne geçebiliriz. Başlangıçta sorduğumuz soruya geri dönersek: Teknoloji bizi daha özgür kılabilir ama sadece bilinçli kullanıcılar olur ve bu sürecin yönünü belirlemekte ısrarcı kalırsak.

* Her ne kadar bu çalışmada referans verilen örnekler daha dar bir konuya odaklansa da, Çin’den yapılan patent başvurularının genel eğilimi oldukça farklı. 2010 yılında Çin, patent başvurularında ABD’yi geçti. Hatta Dünya Fikri Mülkiyet Örgütü’nün (WIPO) verilerine göre 2021 yılında Çin’in yaptığı başvurular küresel toplamın yarısından fazlasını oluşturuyordu. Kaynak: Our World in Data.

1. Pratyusha Ria Kalluri vd., “Computer-vision research powers surveillance technology”, Nature 643 (2025): 73–79.

2. Tali Sharot ve Cass R. Sunstein, “Will we habituate to the decline of democracy?”, Science Advances 11 (2025).

3. Martin Beraja, Andrew Kao, David Y Yang ve Noam Yuchtman, “AI-tocracy”, The Quarterly Journal of Economics 138(3) (2023): 1349–1402.

ABD, Çin, demokrasi, Donald Trump, Elon Musk, etik, gözetleme, otokrasi, Ömer Sümer, teknoloji, toplumsal adalet, yapay zekâ