Günümüzde pek çok sektör uzun zaman harcayarak gerçekleştirebileceği işleri göz açıp kapayana kadar halledebilen algoritmaların büyüsüne kapıldı. Ancak zaman içinde öğrenebilen yapılar haline dönüşen bu sistemler, bir süre sonra hangi kararı neden aldığını yaratıcısının bile bilmediği yapılar haline dönüşebiliyor. Peki günün birinde algoritmaların yanlış kararlar aldığı bir dünyadan bizi kim koruyacak?
Geçtiğimiz yıl evrim biyolojisi uzmanı Peter Lawrence’ın “The making of a fly” (Bir sinek yapmak) adlı kitabının Amazon’daki fiyatının 23 milyon 698 bin 655 dolara kadar yükseldiğini hatırlıyor musunuz (artı 4 dolar da posta parası)? Bilimsel bir kitabın böylesine astronomik bir fiyata listelenmiş olması diğer akademisyenleri kıskandırmış olsa gerek. Ama kitabın fiyatındaki bu tırmanış yaratıcı veya işgüzar bir çalışanın neden olduğu bir durum değildi. Sistemde birbirini besleyen algoritmaların kontrolden çıkarak bir sarmal oluşturmasının ve döngüye girmesinin bir sonucuydu.
Peki ya algoritmaların neden olduğu benzer hatalar farklı alanlarda da yaşanıyorsa ve gözden kaçıyorsa? Gerçekliğimizi algoritmalar etrafında kuruyorsak, insan olarak kendimizi bunun neresine koyacağız?
Bu örneklerden yola çıkarak, Prof. Allen Lee ve Dionysios Demetis‘in Journal of the Association for Information Systems dergisinde algoritmalara dayalı teknolojilerin etkisini derinlemesine incelemeye yönelik bir araştırma yayınlandı. Araştırmalar sonucunda görüldü ki bilgi teknolojileri ve insan yer değiştiriyor. Eskiden biz teknolojiyi bir araç olarak kullanırdık. Bugünse teknoloji bizi kullanacak, hatta kontrol edecek noktaya geldi. Özetle makinelerin aldığı kararlar insanları sadece etkilenmekle kalmıyor, bunu öngörülemez biçimlerde yapıyor.
Teknolojiden yardım alan, bir araç olarak kullanan yapay insanlar olmanın ötesine geçiyor, teknolojinin yön verdiği insan kalıntıları haline dönüşüyoruz.
Örneğin günümüzde hukuk alanındaki analizlerin önemli bir bölümü yapay zeka üzerinden gerçekleştiriliyor. Yani çoğu davada suçlu veya masum oluşunuz algoritmaların verdiği kararlarla belirleniyor. Hakimler son sözü söylemeden önce işin büyük bölümünü ne kadar karmaşık olduğunun farkın varmadıkları, nasıl çalıştığı konusunda hiçbir fikir sahibi olmadıkları algoritmalar yardımıyla veriyorlar.
İş dünyasında da dünyanın en büyük şirketlerinin işe alım süreçlerinde gönderilen özgeçmişler algoritmalar yardımıyla filtreden geçiriliyor. Yani işverenler çoğu potansiyel adayın özgeçmişine göz ucuyla bile bakmıyor. Otomasyon süreci daha önce Amazon’da yaşandığı üzere şirketin tercih etmeyeceği önyargıların işe alım sürecinin temel parçalarından biri olmasına dahi yol açabiliyor. Yayınlanan haberlerde yer alan ifadelerin olumlu veya olumsuz olduğuna karar veren formüller, yatırım algoritmalarını besleyerek şirketlerin değerini belirliyor.
Yatırım Dünyasının Yüzde 85’i Algoritmaların Elinde
Algoritmalar özellikle finans dünyasını ele geçirmiş durumda. Uluslararası finans piyasalarında yapılan yatırım işlemlerinin yüzde 85’ini algoritmalar gerçekleştiriyor. Bu alanda inanılmaz bir rekabet yaşanıyor. İşin ilginç tarafı, bu sistemler süreç boyunca öğrenmeye programlandığı için bir süre sonra geliştiricisi bile hangi kararı neye dayanarak verdiği konusunda fikir sahibi olamıyor. 2010 yılında algoritmaların Dow Jones endeksinde dakikalar içinde neden olduğu yüzde 9’luk düşüşün sebebi 5 aylık araştırmalar sonucunda aydınlatılabilmişti. Her şey küçük bir hatayla başlamıştı, ama hatayı devam ettiren algoritmalar aslında yanlış bir şey yapmıyordu. Milyarlarca verinin akışıyla elde ettikleri tecrübenin gereğini yapıyorlardı.
Algoritmaların finans sektöründe bu ölçüde yüksek kullanımı yatırımcıların insanların etkinliğine olan inançsızlığından kaynaklanıyor. 1987 yılında ABD borsaları yüzde 22,61’lik bir düşüş yaşadığında, bazı Wall Street finans operatörlerinin müşterilerinden gelen satış emirlerini yerine getirmemek için telefonları açmaması bu alanda bilgisayarların insanın yerini almasının ilk adımıydı.
O günden beri finans dünyası hızlı kablolara, mikrodalga iletişime milyonlarca dolar harcayarak kendi algoritmalarının sadece birkaç milisaniye daha hızlı davranıp öne geçebilmesi için yatırım yaptı. Algoritmanın denizaşırı transferleri bile göz açıp kapayana kadar yapabildiği bir dünyada, insanın bir tuşa basması için ihtiyaç duyduğu 215 milisaniyenin hiçbir önemi kalmadı.
Artık tek yaptığımız algoritmanın işleyişini denetlemek ve bir yerde işler istediğimiz gibi gitmiyorsa gereken değişiklikleri gerçekleştirmekten ibaret.
Yazılımlarla olan ilişkimizin böylesine uçlara doğru ilerlediği bir dünyada, kendi yerimizi doğru belirlememiz ve teknolojiyle ilişkimizi yeniden gözden geçirmemiz gerekiyor. Bunun sonuçlarının birey ve toplum olarak bizi nasıl etkileyeceğini daha da geç olmadan masaya koymamız şart.
Bunun için hala vaktimiz var.
Bu yazı https://theconversation.com/algorithms-have-already-taken-over-human-decision-making-111436 adresindeki Dionysios Demetis‘in makalesinden uyarlanmıştır.
