Google, yeni duyurduğu PaliGemma 2 yapay zeka modeli ailesinin görüntüleri analiz ederek eylemleri, duyguları ve ortamın genel anlatısını tanımlayabildiğini açıkladı. Şirket, bu modellerin “basit nesne tanımlamanın ötesine geçerek görüntüler için bağlamsal olarak zengin açıklamalar üretebildiğini” belirtti. Ancak bu özellik endişeleri de beraberinde getiriyor.
PaliGemma 2’nin açık kaynaklı olması ve yapay zeka platformu Hugging Face gibi çeşitli ortamlarda barındırılması, olası kötüye kullanımlarla ilgili kaygıları artırıyor. Özellikle hukuk, işe alım süreçleri ve sınır geçişi kontrollerinde yanlış kullanımın, ayrımcılık riskini artırabileceği öngörülüyor.
Yapay Zeka etik uzmanı Sandra Wachter, “Böyle bir teknoloji, duygularınızın iş bulup bulamayacağınızı, kredi alıp alamayacağınızı veya üniversiteye kabul edilip edilmeyeceğinizi belirlediği distopik bir geleceğe yol açabilir” diyerek olası tehlikeleri dile getirdi.
Uzmanlar, duyguları tanımlamak için yüz ifadelerine dayalı sistemlerin genellikle bilimsel temelden yoksun olduğunu ve ayrımcılık yaratabilecek önyargılar barındırdığını belirtiyor.
