YAPAY ZEKA ve SORUMLULUK

2016 yılında Amerika Birleşik Devletlerinin Florida eyaletinde Tesla marka otomobilini otopilot modunda kullanan 40 yaşındaki sürücünün bir tırın altına girerek ölmesiyle[1] yapay zekanın cezai sorumluluğunun tartışılması önem kazanmışken, 2018 yılında Amerika Birleşik Devletleri’nin Arizona eyaletinde, Uber şirketinin otonom araçlarından biri yaya geçidi olmayan bir caddede karşıdan karşıya bisikletiyle geçen 49 yaşındaki bir bayanın ölümüne neden oldu[2]. Arizona eyaleti yasal düzenlemeleri çerçevesinde otonom araçları test etmeye yetkili olan Uber şirketinin, cezai anlamda bir sorumluluğu olmadığı gerekçesiyle hakkında herhangi bir soruşturma başlatılmadı[3]. Ancak, otonom araçların sürüş sorumluluğunu insandan otonom araç teknolojisine aktarmasıyla, zararların tazmini açısından mevcut cezai ve hukuki sorumluluklara ilişkin yasal düzenlemelerin bir an önce oluşturulması gerektiği kuşkusuzdur.

Örneğin, otonom bir aracın yayaya çarpması durumunda, nasıl bir cezai sorumluluğa dayanılacaktır? En yakın olasılıkla, hayvan sahibinin ya da çalışanın verdiği zarara karşı işverenin sorumluluğu halleri uygulama alanı bulabilir. Ancak, mevcut düzenlemelerle aracın bir hayvan kategorisine sokulamayacağı aşikar olup, bir hayvanın bakımını ve yönetimini üstlenen sürekli veya geçici olarak üstlenen kişinin hayvanın verdiği zarardan sorumluluğunu düzenleyen hükümlere[4] başvurulamayacağı da ortadadır. Diğer yandan, yapay zekanın işçi-işveren ilişkisi içerisinde olduğundan da bahsedebilmek pek mümkün değildir. Dolayısıyla, mevcut yasal düzenlemelerdeki boşluklar suçların cezasız kalmasına ve bu da kuşkusuz hukuki devlet ilkesinin zarar görmesine neden olacaktır.

Diğer yandan, otonom aracın üreticisi firma ya da yazılım şirketinin cezai bir sorumluluğu olacak mı? Yazılım şirketlerine ilişkin hukuki sınırlandırmalar ve düzenlemeler getirilmesi gerektiği kesinlikle unutulmamalıdır. Zira, üretici gibi yazılım şirketleri de YZ oluşumunda eldeki verileri işleyen, yükleyen ve verilerin giriş ve çıkışlarını sağlayan kuruluşlardır. YZ bu verilerden yola çıkarak diğer bir deyişle, karşılaştığı bir durum karşısında kendisine öğretilen tepkiyi veren bir sistem olarak tanımlanabilir. Teknik olarak, [ A -> B ] olarak da formüle edilen bu durum, veri girişi A olduğunda, B’nin çıkacağının YZ’ya öğretildiği şeklinde de ifade edilebilir.

1. YAPAY ZEKADA VERİLERİN ÖNEMİ

Yapay Zeka kullanılan bir program ya da bir projede belki de en önemli unsur “veri”dir. Elinizdeki veri ne kadar çok olursa, YZ kullanmak suretiyle doğru sonuca ulaşmanız o kadar kolay olacaktır. Ancak, bu noktada, YZ’ya tanımlanan verilerin doğruluğunun ne kadar önemli olduğunu vurgulamak gerekir. Verilerin doğru olmasının yanı sıra, eksiksiz de olması gerekmektedir.

Bu konuda dikkat çekici örneklerden biri, Amerikan hukuk sisteminde ve ayrıca polis tarafından kullanılan COMPAS isimli bir YZ’dır. COMPAS kimlerin gelecekteki suç faaliyetlerine dahil olma şansının yüksek olduğunu tahmin etmek için kişilerin yaşları, cinsiyetleri, medeni durumları, madde kullanım öyküleri ve sabıka kayıtları gibi kişilerle ilgili verileri kullanır. Bu bilgi, polis tarafından bir suç meydana gelmeden önce müdahale etmek için ya da mahkemeler tarafından duruşma öncesi, duruşma sırasında ya da tutuklanan birinin yeniden suç işleme olasılığının olup olmadığını belirlemek için kullanılmaktadır. Örneğin, birçok yargı alanında yargılama öncesi tahliye ve ceza verme konusunda karar vermeye yardımcı olmak için kullanılan bu YZ, kişinin serbest bırakılması halinde yeniden tutuklanma olasılığını ölçmek için 1 ile 10 arasında bir istatistiksel puan verir. Bunu dikkate alan Amerikan hakimleri, kişinin cezasını evinde mi yoksa hapishanede mi geçireceğine karar vermektedir.

Buradaki sorun, algoritmaların beslediği verilerde yatmaktadır. Öncelikle, öngörücü algoritmaların tutuklama oranlarına göre kolayca çarpıtılabileceği kuşkusuzdur. ABD Adalet Bakanlığı verilerine göre, siyahi bir ırktansanız tutuklanma olasılığınız beyaz olmanızdan iki kat daha fazladır[5]. Siyahi bir kişinin, beyaz bir kişiye göre, haksız yere durdurulma olasılığı ise beş kat daha fazladır. Burada, aslında düşündürücü ve bilim insanları tarafından mercek altına alınan husus YZ’ya girilen veriler içerisinde kişilerin ırklarının yer almamasıdır. Peki, kişilerin ırklarını bilmemesine rağmen, bu YZ’ya göre neden siyahi kişilerin tutuklanma ve haksız yere durdurulma olasılığı daha fazladır?

Şöyle ki, zaten geçmişte siyahi kişiler beyazlara oranla daha fazla cezalandırılmışlardır. Siyahi topluluklara karşı silah olarak kullanılan uzun bir veri geçmişi varken, YZ’nin bu verileri kullanarak adil bir istatiksel puan verebilmesi sizce muhtemel midir?

Sonuç olarak, algoritmalara girilen verilerin zaten toplumdaki mevcut eşitsizlikleri yansıtması halinde sonucun daha da kötüleşebileceği aşikardır. Belki de bu aşamada, kişilerin özgürlüklerine ilişkin bu kadar önemli kararların alınması sırasında değil de, Çin’de hayata geçirilen Xinhua isimli YZ hakimi gibi belli davalara bakan YZ geliştirilmesidir. Örneğin trafik para cezalarına karşı yapılan itirazlarda yapay zekanın kullanılması suretiyle yargılamanın hızlanması ve sulh ceza mahkemelerinin yükünün hafifletilmesi mümkün olabilir. Bir diğer ihtimal de, YZ’nin gerekçeli karardan ziyade davalardaki ön inceleme aşamasında rol alması olabilir.

1. YAZILIM ŞİRKETLERİNİN SORUMLULUĞU

YZ’ya tanımlanan verilerin doğru ve eksiksiz olması gerektiği gibi, yazılım şirketlerinin veri kullanımı sırasında iyi-kötü, doğru-yanlış verilerin ayrımını yaparak YZ’ya tanımlaması ve YZ’nın bunu, diğer bir deyişle vaka özelliklerini öğrenmesini sağlaması gerekmektedir.

Ancak, ceza hukuku “insan” ile ilgili olduğundan, YZ’nın mevcut gelişiminde ayıramayacağı noktalar olduğunu kabul etmek gerekir. Örneğin, yapay zekanın 2 yaşındaki oğlunun karnını doyurmak için marketten mama/süt çalan bir anne ile komşusunun evindeki kasayı hırs için soyan biri arasındaki ayrımı yapabilmesi şu anda mümkün değil. YZ ikisini de kişilerin sicilinde hırsızlık olarak nitelendirecekken, insanoğlu için bu iki eylemin daha farklı nitelendirilmesi muhtemeldir[6].

Bu nedenlerle, eldeki veriler ne kadar çok olursa olsun, verilerin doğru ve eksiksiz olmasının yanı sıra yazılım şirketi tarafından doğru işlenmesi de önem arz etmektedir. Aksi takdirde, işveren açısından zaman ve para kaybı söz konusu olacak ve belki de bu anlamda yazılım şirketinin sorumluluğu gündeme gelebilecektir.

• YAZILIM ŞİRKETLERİ VE İŞVEREN ARASINDAKİ SÖZLEŞMELER

Yazılım şirketleri ile işverenler arasında akdedilecek sözleşmelerde cezai ve hukuki sorumluluklarının çerçevesinin doğru belirlenmesi gerekmektedir. Zira, verilerin işveren tarafından yazılım şirketine verilmesi halinde, bu verilerin doğruluğunun ve eksiksizliğinin de işveren tarafından kabul edilmiş olması gerekmektedir. Aksi takdirde, yanlış verilere dayandırılan YZ’nın hata yapacağı ve arzu edilen sonuca ulaşılamayacağı, dolayısıyla zaman ve para kaybının ortaya çıkacağı kuşkusuzdur.

Av. Bahar Çetinsaya

[1] https://www.theguardian.com/technology/2016/jun/30/tesla-autopilot-death-self-driving-car-elon-musk

[2] https://abcnews.go.com/US/woman-killed-driving-uber-car-identified-company-suspends/story?id=53853861

[3] https://www.nytimes.com/2019/03/05/technology/uber-self-driving-car-arizona.html

[4] Türk Borçlar Kanunu 67. Madde.

[5] https://www.ojjdp.gov/ojstatbb/crime/ucr.asp?table_in=2

[6] Diğer yandan, uzun içtihatların saniyeler içerisinde özetini çıkaran ve her ne kadar henüz Türkçe dilinde olmasa da İngilizce dilinde saniyeler içerisinde sözleşmeleri doğru bir şekilde inceleyen YZ’nın insanoğlu için vazgeçilmez olduğu da ortadadır. Bu nedenle, YZ ve insanın kendilerine ait belirleyici özelliklerini birlikte kullanabilecekleri oluşumların gelecekte çok daha ön planda olacağını göreceğimiz kanaatindeyim.