Yapay Zeka ve Teknoloji Derneği Hukuk Komitesi tarafından kaleme alınan yazıda yapay zekanın hukuki kişiliği ele alındı.
Yazanlar: YZTD Hukuk Komitesi, Av. Kemal Altuğ Özgün ve Stj. Av. Ayşe Gönen Anaeli
Teknoloji hayatımızdaki her alanda daha fazla yer almaya hızla devam ederken hukukun bu değişim ve gelişimlerin gerisinde kalmaması gerekmektedir. Hukuk sadece insan ilişkilerini değil aynı zamanda hayatın gereklerini de düzenlemeli ve bu durumda hızlı bir adaptasyon süreci içinde yer almalıdır. Tüm paydaşlar bunu sağlamak için gelişmeleri yakından takip etmeli ve proaktif bir yaklaşımla yalnızca bugünü düşünerek değil holistik bir bakış açısıyla yarına da hazırlanmalıdırlar. Yapay zekanın, günümüzde bu ihtiyaçtan doğan ve hala tartışmalara konu olan hukuki konumu noktasında birçok fikir öne sürülmektedir. Öğretide yapay zekaların eşya olarak kabul edilebileceği, köle statüsünde olması gerektiği, yapay zekalara tüzel kişilik verilebileceği ya da Avrupa Parlamentosu’nun sunduğu raporda geçen “elektronik kişilik” gibi öneriler ön plana çıkmaktadır.
Hukukta Kişilik Kavramı Nasıl Tanımlanmıştır?
Yukarıda bahsedilen alanlarda yapılan kişilik tanımları insandan bağımsız değildir. Ne var ki hukuk, kişiliği insanın kendisinden ve doğadan bağımsız değerlendirmektedir. Kimin ya da neyin kişi olarak sayılacağı hukuk düzeni tarafından belirlenir ve yalnızca belirlenen bu kişiler hak ve sorumluluk sahibi olabilir. Roma Hukuku’na baktığımız zaman insanların hukuki kişilikleri günümüzden çok daha dar anlamda düzenlenmiştir. Hak ehliyetine sahip olabilmek için üç şart vardı: Özgür olmak, yurttaş olmak, baba egemenliği altında bulunmamak. Roma’da özgür olan insanlar ya özgürlüklerine doğuştan sahip olanlar ya da azat edilen kölelerden oluşmaktaydı. Köleler insan olmalarına rağmen hukuken kişi değil eşya statüsünde sayılmakta ve bu nedenle alınıp satılabilir, üzerlerinde tasarrufta bulunabilir obje olarak kabul edilmekteydi. Yurttaşlık kavramı ise Roma vatandaşı bir anne ve babanın ius civile’ye uygun olan evlilik birliği içinde dünyaya gelmiş kişileri kapsamaktaydı. Son kriter olarak kişinin babasının egemenliği altında olmaması gerekmekteydi. Roma Hukuku’na göre aile içinde yalnızca pater familias (aile babası) hak ehliyetine sahipti ve aile üzerinde geniş yetkileri bulunmaktaydı. Kadınlar ve çocuklar sadece özel hukuku ilgilendiren konularda kısıtlı haklara sahip kabul edilirdi.
Güncel hukuk açısından iki tür kişiden söz etmek mümkündür: gerçek kişi ve tüzel kişi. Gerçek kişiler Medeni Hukuk’a göre sağ ve tam doğmak koşuluyla ana rahmine düşüldüğü anda hak ehliyeti kazanırlar ve sadece insanlar bu kapsamda değerlendirilir. Tüzel kişiler ise belirli bir amaca özgülenmiş bir mal veya insan topluluğunun hak ve sorumluluklara sahip olabilmesi için hukuk kuralları çerçevesinde belirlenmiş çerçeveye uymalıdır. Yani hukuk bu gruplar için bir kişilik tanımı oluşturmuştur. Bu nedenle kişi sayılmanın doğaya bağlı olmadığı, herhangi bir hayvan ya da eşyaya da salt şeklî kavram olma yönünden kişilik tanınabileceği söylenebilir. Buna göre yapay zekâlar için de hukuk şeklî bir kişilik tanıyabilecektir. Ancak hukuken kişiliği haiz olabilmek için şeklî gerekliliklerin kapsanması yetmemektedir. Hukuk bir kişinin sorumluluklarını yerine getirebilmesi için fiil ehliyetinin de bulunmasını şart koşmuştur ve fiil ehliyetine sahip olabilmek için kısıtlı olmamak, ayırt etme gücüne sahip olmak ve ergin olmak gerekmektedir. Yani ayırt etme gücü bulunmayan bir kişiye ya da canlıya fiil ehliyeti verilemeyecek, dolayısıyla yaptıkları için bir sorumluluk doğmayacaktır.
Doktrinde Yapay Zekânın Hukuki Statüsü Yaklaşımları
Yapay zekanın hukuki statüsü için farklı yaklaşımlar mevcuttur. Bu yaklaşımların günümüzdeki ve gelecekteki ihtiyaçlara ne kadar cevap verdiği tartışmalı olsa da pozitif hukukta somut bir adım bulunmadığı için tüm görüşlerin değerlendirilmesi önemlidir.
Ortaya atılan ilk görüş olan eşya yaklaşımına göre yapay zekalar sadece ilgili hakkın konusu olabilmektedir, yani bir hak süjesi değil ancak hakkın objesi olabilmektedirler. Fakat yapay zekâ teknolojisiyle çalışan makineleri diğer makinelerle aynı statüye koymak hak ve sorumluluk açıklamaları yapmak için yetersiz kalmaktadır. Zira yapay zekâları basit mekanik araçlar olarak görmek isabetli değildir. Bugün karşılaştığımız yapay zekâ türleri bir insandan çok daha hızlı bir biçimde öğrenme, çevreye asla öngörülemeyecek bir biçimde adapte olma ve böylece kendi yaratıcılarının dahi öngöremeyeceği zararlar verme potansiyeline sahiptir.
Köle görüşünü savunanlar yapay zekaların basit makineler olmadığını kabul etmekte ancak eşya yaklaşımından da çok uzaklaşamamaktadır. Aradaki tek farkın bu kabul olması ve kölelik sisteminin modern hukuk anlayışından çıkarılması nedeniyle bu görüşün de temellendirilemediği söylenebilir.
Tüzel kişilik görüşü ise eşya ve köle görüşlerini reddetmekte, yapay zekânın niteliği gereği kişi olarak değerlendirilmesinin isabetli olacağını ancak “epistemolojik ve ontolojik sebeplerle” gerçek kişi olarak değil ve fakat tüzel kişi niteliğinde değerlendirilmesinin akla daha yatkın olacağını ileri sürmektedir. Diğer iki yaklaşım göz önünde bulundurulduğunda tüzel kişilik görüşünün daha isabetli olduğu söylenebilir. Ancak tüzel kişilerin maddi hukuk bağlamında ortak bir amaca özgülenmesi değerlendirildiğinde çeşitli sorunlar ortaya çıkmaktadır. Öncelikle otonom karar verme mekanizmasına sahip olan yapay zekalar gündeme geldiğinde, yapay zekanın eylemlerinin ya da verdiği kararların yaratıcısıyla ortaklaşması her zaman mümkün olmayabilir. Özellikle belirli bir bilinç seviyesine ulaşmış yapay zekaların harmanladığı bilgiler doğrultusunda yapılma amaçları dışında da hareket edebilmeleri muhtemel bir senaryo olarak karşımıza çıkmaktadır. Ayrıca tüzel kişilerin temsiliyeti noktası düşünüldüğünde yapay zekayı kimin temsil edeceği problemi de ortaya çıkacaktır, zira herhangi bir zarardan yapay zekanın sorumluluğunun doğması bağlamında özelleştirilmiş bir düzenlemenin yapılması hukuken daha tutarlı olacaktır.
Ocak 2017’de yayımlanan Avrupa Parlamentosu Hukuk İşleri Komisyonu Robotik Tavsiye Raporu’nda (“Rapor”) yukarıdaki bahsedilen tartışmaları önlemeye yönelik yeni bir kişilik tanımı önerilmiştir: Elektronik kişilik. Buna göre yapay zeka için özel bir hukuki statü yaratılarak düzenlemelerin bu çerçevede yapılması gerekliliği vurgulanmıştır.
Bir başka öneri olarak yapay zekalara yönelik tamamen yeni bir hukuki düzen kurulması gündeme gelebilir. Bu düzende yapay zekalar insana denk ya da eş değer bir şekilde değerlendirilir ancak insanın tabi olduğu yasalar yerine yeni hukuki düzen çerçevesinde hareket edilir. Yapay zekanın insanların tabi olduğu normlara uydurulması yerine en baştan ve kapsayıcı bir şekilde düzenlenmesi daha yerleşik ve kalıcı bir çözüm olabilir. Zira yapay zekalar da tek tip değildir, yukarıda bahsedildiği gibi farklı türleri vardır ve bu türlerin kapasiteleri de değişiklik göstermektedir. Örneğin sınırlı hafıza kapasitesine sahip bir yapay zekanın sorumluluğu ile insansı bir robotun sorumlulukları noktasında farklılık doğacaktır. Sınırlı hafıza kapasitesine sahip yapay zekâ nasıl programlandığına katı bir şekilde bağlı iken yaptıkları nedeniyle doğan zarardan programlayıcısının ya da yöneticisinin sorumlu tutulması gündeme gelebilir. Fakat insansı bir robotun bağımsız bir şekilde verdiği kararlardan programlayıcısını/yöneticisini sorumlu tutmak mümkün olmalı mıdır? İki ayrı hukuk düzenlemesinin varlığı en başta yadırganacak olsa bile insansı robotlara dair konuştuğumuz gelecek senaryosunda, yeni bir türün ortaya çıktığını söylemek çok da yanlış olmayacaktır ve bu nedenle insan dışı bilinçli varlıkların düzenlenmesi için çığır açıcı adımlar atmak gerekecektir.
Yapay Zekanın Kişiliğine İlişkin Dünyada Uygulanan Hukuki Düzenlemeler Mevcut mu?
Kişiliğin tanımı, yapay zekanın sahip olduğu niteliklere göre sınıflandırılması ve bu nitelendirmelere paralel olarak yapay zekaya atfedilebilecek hukuki statülere ilişkin genel bir çerçeve çizdikten sonra dünyada bu konuda yapılmış herhangi bir düzenleme olup olmadığına ışık tutmak adına son dönemdeki gelişmeleri incelemek faydalı olacaktır.
Örneğin Avrupa Parlamentosu (“AP”) 2017 yılında hazırladığı tasarı4 ile elektronik kişilik kavramını düzenlemiştir. Her ne kadar somut bir uygulamasını görmesek de yapay zekanın hukuki kişiliğine ilişkin tartışmaların zenginleşmesi açısından oldukça önemli bir adım olarak kabul edilebilir.
Tasarıda, yapay zekanın uzun vadede insan entelektüel kapasitesini aşma olasılığı olduğu kabul edilerek, yerleşik özerkliğe ve kendi kendine öğrenmeye sahip robotlar da dahil olmak üzere robot tasarımcılarına, üreticilerine ve operatörlerine yönelik olarak Asimov Yasaları’nın kabul edilmesi gerektiği belirtilmiştir. İlgili yasaların muhatabının robotlar olmamasının sebebi olarak tasarıda bu yasaların makine koduna dönüştürülememesi gösterilmiştir.
Ünlü bilimkurgu yazarı Isaac Asimov tarafından geliştirilen ve “Üç Robot Yasası” olarak da bilinen Asimov Yasaları’ndan kısaca bahsetmek gerekirse, robotların mutlaka uymak zorunda oldukları temel kurallar olarak düzenlendiği söylenebilir. Buna göre;
Bir robot, bir insana zarar veremez ya da zarar görmesine seyirci kalamaz.
Bir robot, birinci kuralla çelişmediği sürece bir insanın emirlerine uymak zorundadır.
Bir robot, birinci ve ikinci kuralla çelişmediği sürece kendi varlığını korumakla mükelleftir.
Bununla birlikte tasarıda, uzun vadede robotlar için belirli bir yasal statü oluşturmanın gerekliliğinden bahsedilmiş, bu sayede en azından en karmaşık otonom robotların neden olabilecekleri herhangi bir zararı gidermekten sorumlu elektronik kişi statüsüne sahip olarak kurulabileceği ve robotların özerk kararlar verdiği veya üçüncü şahıslarla bağımsız olarak etkileşim kurduğu durumlarda elektronik kişilik hükümlerinin uygulama alanı bulacağı düzenlenmiştir. Ancak elektronik kişilik kavramının sınırları, sahip olduğu haklar ve borçlar noktasında geniş bir düzenleme söz konusu değildir.
Tasarının yayınlanmasından sonraki süreçte elektronik kişilik kavramına ilişkin çekinceler ve itirazlar dile getirilmeye başlanmıştır.6 Ayrıca esas alınması gerektiği ileri sürülen Asimov Yasaları’nın barındırdığı ikilemler ve etik problemler bu konuda daha geniş perspektiften bakılarak hazırlanan düzenlemelere duyulan ihtiyacı göstermiştir.
2020 yılına gelindiğinde ise Avrupa Parlamentosu tarafından yayınlanan yeni tasarıda7 robotların özerkliği, empati eksikliği ve doktor-hasta ilişkisi üzerindeki etkileri konusunda güçlü etik, psikolojik ve yasal endişelerin varlığının altı çizilmiştir ve AB düzeyinde özellikle veri koruma, sorumluluk, robotlar ile birlikte gelen ekonomi ve işgücüne yönelik yeni düzen noktasında henüz tam olarak ele alınmamış olduğu belirtilmiştir. Bununla birlikte ‘özerklik’ ancak tamamen insana atfedilebilir bir kavram olarak tasarıda karşımıza çıkmaktadır. Tasarıda açıkça mevcut yasal çerçevede yapılması gereken herhangi bir değişikliğin Yapay Zekâ sistemlerinin ne tüzel kişiliğe ne de insan vicdanına sahip olmadığı ve tek görevlerinin insanlığa hizmet etmek olduğu açıklığı ile başlaması gerektiği belirtilmiştir. Bu noktada Avrupa Parlamentosu’nun Yapay Zekâ’nın hukuki statüsüne ilişkin yaptığı değerlendirmelerde yıllar içinde konumunu değiştirdiği söylenebilir.
Avrupa Birliği’nde kişilik ve sorumluluk kavramlarına ilişkin etik, hukuki ve psikolojik tartışmalar sürerken Birleşik Arap Emirlikleri’nde ise 2017 yılında “Sophia” isimli robota vatandaşlık verilerek dünyada bir ilke imza atılmıştır. Bu gelişme pek çok hukuki tartışmayı da beraberinde getirmiştir.
Birleşik Arap Emirlikleri’nde vatandaşlık statüsü doğum veya evlilik yolu ile gerçek kişiler tarafından kazanılabilmektedir. Bu bakımdan Sophia’nın vatandaşlık kazanması hukuki dayanaktan yoksun bir işlem olarak karşımıza çıkıyor. Ayrıca BAE vatandaşı bir kadın olarak Sophia’nın sahip olacağı haklar ve sorumluluklar da Yapay Zeka’nın hukuki kişiliği bakımından yapılabilecek tartışmalar noktasında geniş bir yelpaze sunuyor. Mevcut durum Birleşik Arap Emirlikleri’nde insan ve yapay zekâ sahibi robotun hukuki kişilik bakımından eşdeğer olduğu kabulü ile hareket etmemiz gerektiğini ortaya koymaktadır.
Japonya’nın da yapay zekanın hukuki kişiliği konusundaki tutumunun Birleşik Arap Emirlikleri ile benzerlik gösterdiğini söylemek mümkün. Yine 2017 senesinde Shibuya Mirai isimli chat-bot’a özel bir düzenleme ile oturma izni verilmiştir. İlgili düzenleme girişimciler, yatırımcılar, bir konuda çalışmak üzere Japonya’ya gelen yabancı uzmanlar, bilim adamları, sporcular gibi belirli sayıda kişiyi kapsamaktadır. Herhangi bir hukuki statü dahi atfedilmemiş olan Shibuya Mirai’ye gerçek bir kişiymiş ve düzenlemede sayılan özellikleri taşıyormuşçasına oturma izni verilmiş olması elbette ki mevcut hukuki düzenlemeler bakımından geçersiz bir işlem olarak kabul edilmelidir.
Ne var ki teknoloji yarışında ülkelerin kendini üst sıralarda konumlandırma çabası Japonya ve Birleşik Arap Emirlikleri’nde görüldüğü üzere hukuki geçerliliği olmamasına rağmen yapılan işlemlerle ilginç bir pazarlama stratejisi olarak kabul etmekten öteye geçemeyeceğimiz durumlara sahne olmaktadır.
Çoğu ülkede yapay zekaya ilişkin uygulamadaki düzenlemeler otonom cihazlar, dronelar gibi halihazırda çeşitli sektörlerde kullanılan araçlara yöneliktir. Mevcut düzenlemelerde yapay zekaya sahip araçlara ilişkin nitelendirmeler yapılarak bu araçlar vasıtasıyla gerçekleştirilen işlemlerde sorumluluk üreticiye veya duruma göre kullanıcıya bırakılabilmektedir. Sorumluluk konusu başlı başına ayrı bir tartışma konusu teşkil etmekle birlikte tüm yapay zeka tiplerinin hukuki nitelik bakımından şimdilik eşya kategorisinde değerlendirildiğini söyleyebiliriz.
Yapay Zekanın Hukuki Kişiliğinin Tanınması Beraberinde Neler Getirebilir?
Her ne kadar mevcut hukuki düzenlemeler düşünüldüğünde yapay zekanın geniş anlamda haklara ve borçlara ehil olması şimdilik söz konusu gibi görünmese de çok da uzak olmayan bir gelecekte öz farkındalığı olan, entelektüel kapasitesi insana yakın veya eşdeğer olacak şekilde gelişmiş insansı robotların kişiliklerinden ve buna bağlı olarak haklarından bahsedebiliriz.
Bu noktada yapay zekaya atfedilen kişilik tipine göre haklarının ve sorumluluklarının kapsamı da değişecektir. Daha da ileri gidecek olursak insansı robotlara insan hakları benzeri haklar tanınmasına yönelik tartışmalar da söz konusu olabilir.
Yapay zekanın kişilik tipine göre ortaya çıkabilecek problemlerin başında kişiliğin hangi anda doğduğu meselesi yer alabilir. Örneğin insansı robotlara insana eşdeğer veya benzer bir kişilik atfedilmesi halinde yazılım ve donanımın bir araya getirilmesi yapay zekanın kişiliğinin doğumu için yeterli ise kodlama, üretim ve montaj faaliyetlerinden sonra robotların ihracatı ve dağıtımının uluslararası satış sözleşmelerine konu olması mümkün olmayacaktır. Mevcut hukuk sisteminde bu faaliyetler yalnızca eşya statüsündeki varlıklara göre düzenlenmiş ve kurallar bu kapsamda oluşturulmuştur. Ancak yapay zekaya bir kişilik türü atfedilmesi, ekonomik faaliyetleri kolaylaştırıcı bir etki yaratmaktan çok süreçleri zora sokuyorsa çoğu ülkenin kabul etmek istemeyeceği bir olgu olarak kalacaktır.
Bu sebeple ticari operasyonları hukuk sisteminde köklü bir reforma gitmeye gerek kalmadan gerçekleştirebilmek adına yapay zekanın donanım ve yazılımının sonradan bir araya getirilmek üzere ayrı ayrı sözleşmelere konu edilebilmesi gündeme gelecektir. Kişiliğin başlangıcı olarak yazılımın tamamlandığı anın kabul edilmesi halinde ise ticaret hukukunda bu konu özelinde yepyeni bir düzenleme yapılması ihtiyacı doğacaktır.
Bununla birlikte insansı robotun kendi karar mekanizması ile hareket etmesi söz konusu olacağından kendi üretim amacına aykırı olarak iş görmeyi reddetmesi halinde bu durumun “ayıplı mal” hükümleri kapsamında değerlendirilip değerlendirilemeyeceği de belirlenen kişiliğin sınırlarına göre farklılık gösterecektir. Tüketicinin böyle bir robotun yenisi ile değiştirilmesi hakkını kullanması halinde iş görmeyi reddeden robotun akıbetinin ne olacağı sorusu akla gelecektir. Robotun kapatılması adeta efendisine isyan eden kölenin öldürülmesine eşdeğer bir uygulama olacağından etik açıdan oldukça problemli bir durumun karşımıza çıkması söz konusu olabilir.
İnsansı robotun kendi varlığının devamına karar verip veremeyeceği önemli bir tartışma konusudur. Bahsettiğimiz şekilde üretim amacına aykırı veya çevresine karşı tehlikeli sayılabilecek davranışların söz konusu olması halinde insanlara ilgili robotu “kapatma hakkı” verilmeli midir? Konuyu başka bir açıdan ele alacak olursak insansı robotlara tıpkı günümüzde bazı ülkelerde tartışmalı olan ötenaziye benzer şekilde “kendi kendini kapatma hakkı” verilmesi de söz konusu olabilir mi? Bu sorulara verilecek cevaplara göre kapatma işleminden maddi veya manevi zarar görenlerin duruma göre kullanıcıdan veya üreticiden tazminat talep etmesi de gündeme gelebilecek meselelerden biridir.
Bunlarla birlikte, insansı robotlara ilişkin Birleşik Arap Emirlikleri’nde gördüğümüz insana eşdeğer muamele robot-insan, robot-robot evlilikleri, seçme ve seçilme hakkı, ifade özgürlüğü, mülkiyet hakkı, din ve inanç özgürlüğü gibi temel insan haklarından faydalanıp faydalanamayacakları konusunda şiddetli tartışmaların fitilini ateşleyebilir. Özellikle BAE gibi cinsiyet eşitliğinin dahi hukuki zeminde henüz sağlanamadığı ülkelerde bu çapta hakların öngörülmesi pek de sıcak karşılanmayabilir.
Bu tip haklar öngörülecekse bile bunların sınırının nerede başlayıp biteceğine ilişkin bir çalışma yapılması gerekecektir. Örneğin insansı robotların insanın düşünme, karar verme, hissetme kapasitesini aşabileceğini şimdiden öngörebiliyorsak bu durumda inanç bakımından da insanlardan bir farkları kalmayacağını söylemek mümkün olabilir. İnsanlığın bir kesiminin kendisini yaratan ve kendisinden daha üstün bir gücün var olduğuna dair inancı ve buna ilişkin pratiklerini insansı robotlar açısından düşündüğümüzde insanlığın yaratıcı olarak görülmesi ve insansı robotların bir din çatısı altında buna yönelik ibadetler gerçekleştirmek istemesi halinde din ve vicdan özgürlüğü bakımından nasıl bir hukuki duruş sergilemek gerekir?
BAE ve Japonya’daki uygulamalar, bir bilim kurgu romanını andıran bu tip ihtimallere ilişkin sorulara açık bir kapı bırakmış oldu. Henüz bu gibi soruları cevaplamak için çok erken olsa da hızla gelişen teknoloji karşısında hukuki önlemlerin alınması gerektiği açıktır.
