Otonom ve elektrikli,
“Keolis-Navya Autonomous
Shared Ride Vehicle”, 2017,
fotoğraf: Kristain Baty
(CC BY-SA 2.0)
Oyuncak Araba

0.

Bin dokuz yüz seksenlerin ortasında Therac-25 adlı bir radyoterapi cihazı yazılımındaki bir bug nedeniyle hastalara yüksek dozda radyasyon verir. Bunun sonucunda birkaç hasta hayatını kaybeder. Peşi sıra kritik sistemlerin yazılımlarının kontrolü nasıl yapılır, güvenliği nasıl sağlanır ve hatta hiyerarşik bir kontrol zinciri nasıl oluşturulur gibi tartışmalar için Therac-25 nadide bir vaka incelemesi hâline gelir.

Bununla beraber, bu vakadan öğrenilecek en önemli şey “makinenin yasal sorumluluğu” olup olmadığı tartışmasıdır. Çünkü, Therac-25 nedeniyle hayatını kaybedenler düşünüldüğünde, bunun sorumlusunun kim olduğunu bulmamız lazım. Acaba, cihazı kullanan tekniker mi (tekniker Assembly diliyle yazılmış bir programı bug’lara karşı nasıl kontrol etsin?), programı yazan yazılımcı mı (yazılımcının grup lideri olan kıdemli yazılımcı neden gerekli kontrolleri yapmamış?), yazılımı yeterli şekilde test edememiş şirket politikası mı (istediğiniz kadar test edin, her bug yakalanamaz) suçlu? Yoksa yoksa, yazılımın kendisi mi suçlu? Bu tip programların lisansı neredeyse daima hep aynı şeyleri söyler: “Biz elimizden geleni yaptık, sizden ya da bizden kaynaklı bir sorun çıkarsa, mesul değiliz.” Bu lisans nispeten anlaşılır elbette —yoksa kelime işlemciyle intihar notu yazanların yakınları bile yazılımcıları dava eder hâle gelir. Ucu bucağı olmayan bir hukuki tartışma bu. Sadece makine-insan hukuku da değil, makine-hayvan, makine-doğa gibi zeminlerde tartışmayı daha da büyütmek mümkün.1

Dediğim gibi 80’lerin ortasında kalan bir tartışma bu. Ancak, bugünlerde sık sık bu tartışmayı 80’lerde bırakmış olmanın bedelini ödüyoruz. Zira toplumsal (ve toplumcu) gündemimize makineyi bir hukuki ve ahlaki özne olarak katamadık. Bu tartışma da katlana katlana ilerledi, Therac-25 benzeri makineler, web siteleri, yazılımlar hayatlarımıza daha da girdi. Zamanında tartışmadığımız konular, şimdi içinden daha da çıkılmaz hâl aldı. Bununla birlikte bizler tartışmadan daha da dışlandık. Nihayetinde toplumcu ve özgürlükçü siyaset, makine hukuku tartışmasına dair yeni bir söz söyleyemediği gibi, bu tartışmalara dahil edilmez hâle geldi.

1.

Günümüzde bu tartışmanın en başat öğesi otonom araçlar. Bunun bizleri, ya da en azından batı memleketlerinde yaşayanları, ilgilendiren boyutu da bu araçların olağan trafik akışında test ediliyor olması. Elbette bu testler, bir test pilotuyla yapılıyor. Ancak geçen haftalarda olduğu gibi, bu ölümlü kazaları engellemiyor. Ya da daha dikkatlice bakarsak, testler yapıldıkça kazalar da artıyor. Bu riskli testlerin nerede yapılacağına karar verenler, toplumcu davranma baskısı hissetmez hâle geliyor. Büyük şirketler lobi yapıyor ve kazanıyor —ta ki medyatik bir skandal patlayana dek.

Bu gözlemlerden hareketle, otonom araçlar için kati hüküm vermek mânâlı değil. Zira, bizler de mühendisler de hâlâ sınırlı miktarda bilgiye sahibiz. Kehanetler dışında elimizde çok az veri var. Zaten sorun da burada beliriyor: Veri toplamak toplumsal bir risk yaratıyorsa, bu riske dair kararlar da ancak toplum olarak alınır. Otonom araçların trafikteki güvenliği, en azından medeni memleketlerin trafik şartlarında, akan trafikte test edilecekse, bu kararı trafiğin öğelerine sormadan alamazsınız. Hele hele ABD hukuk sistemi gibi paranın konuştuğu bir sistemde özgürlükçü bir adalet tesis etmeniz imkânsız hâle gelir.2 Bunun sonunda da tartışma popülist kaygılarla daralır gider: Katil makineciler ve masum halk gibi tuhaf ikilemlere düşeriz.

Mesele belki kısa vadede otonom araç testleri gibi görünüyor. Ancak uzun vadede, mesele toplumsal alanın, şehir mimarisinin ve evlerin yeniden inşasıdır. Elektrikli araçların pillerini şarj edecek trafo falan gibi altyapıdan tutun, park edilen arabanın nasıl ve nerede şarj edilebileceğine dek birçok sorun bizleri bekliyor. Hele hele ‘Eski Dünya’da yaşıyorsanız sorunlar daha da katlanacak. Bununla beraber, öyle ya da böyle, makinelere konacak olan programın yapacağı seçimlere dair karar mekanizmasından da dışlanacağız. Bir kaza anında, örneğin, otonom araç, 70 yaşındaki birisiyle 7 yaşındaki birisi arasında seçim yapmak zorunda kalırsa, direksiyonu hangisine doğru kıracaktır?3 Önünde çarpmak zorunda kaldığı iki kişi varsa, otonom araç hangisine çarpmayı ‘tercih’ edecektir?

Bu siyasi bir tartışma. Dolayısıyla çözümü de siyasi olacak. Çünkü, otonom araçlara dair risklerin analizini toplumcu ve özgürlükçü bir şekilde yapmaktan başka çaremiz yok. Yoksa, bu ‘cepheyi’ de Silikon Vadisi’ne bırakmış olacağız. Mücadele zor. Bu tartışmalara onlar bizi çağırmazsa, bizim kendimizi davet ettirmemiz icap edecek. Görünen bu.

Çünkü, tarihteki hatalarımızı tekrar etme riskimiz var.4 Therac-25 meselesini ihmal edegeldiğimiz gibi, otonom araçları da ihmal edersek, gelecekte bu tartışmadan daha da dışlanmış olacağız. Şirketler ve mühendislerin, teknoloji gurularıyla yönlendirdiği tartışmada toplumcu bir kanal açamayacağız. Şehirler, caddeler, evler otonom araçlara göre şekillenmeye başlayınca da çok geç kalmış olacağız. Otopark değnekçileri gibi, araba ‘şarzcıları’ belasıyla uğraşacağız.

2.

Bu girdaba düşmemizin iki büyük nedeni var. Bir, siyaseti sosyal bilimcilere ve ekonomistlere bıraktık. Ancak siyaset, sosyal bilimcilere bırakılamayacak kadar önemlidir. İki, ‘öncelik’ bahanesiyle, ne öncelik verdiğimiz sınıfsal sorunları çözebildik, ne de modern çağın dijital problemlerinde gündeme dahil olabildik. Özellikle sol ideoloji, beden, hayvan ve makine politikasında siyasal İslam’ın bile, bakın “bile” diyorum, gerisinde kaldı.

İyimserseniz eğer, sonuç belli. Siyasi alanın ve aktörlerinin yeniden eğitilmesi gerekiyor. Yazılım, açık/kapalı kod, Raspberry Pi, yapay zekâ, algoritmik düşünce gibi kavramları bilerek ve anlayarak kullanabilen toplumcu gruplara ihtiyacımız var. Nasıl nükleer füzyon, nükleer atıkların yarı ömrü gibi şeyleri bilen aktivistler yarattıysak, bunu da halledebiliriz. Yok, benim gibi karamsarsanız dans eden devrimcilere dijital siyaset anlatılabileceği günlerin hayaliyle yetinirsiniz.

1. Makine-doğa hukukuna en ilginç örneklerden biri sabotajdır. Baraj yapmak için ağaç kesen dozerlere yapılan sabotajın mağduru kimdir? Makine mi, makinenin sahibi mi? Makineye karşı nefsi müdafaa nasıl yapılır? Meseleye dair daha geniş ve ilginç bir tartışma için okuru Birikim Güncel’deki eski bir yazıma yönlendireyim: “Veganizm ve Siyasi Ötelemeleri”, 20 Mayıs 2014.

2. Uber, otonom aracının çarptığı kadının ailesine mahkemeye gitmeden tazminat ödemiş ve böylece dava açılmadan mesele kapanmış: “Uber settled with the family of its autonomous-car crash victim” ve “Uber avoids legal battle with family of autonomous vehicle victim”.

3.What Uber’s fatal accident could mean for the autonomous-car industry”, Technology Review.

4. Bu lafı TeknoSofist’in 3. bölümünde dostum Murat Altun sarf etmişti, burada kullanırken de onu anmamak olmaz.

Can Başkent, dijital kültür, kodlama, otonom araç