Yapay zeka araçları e-posta yazıyor, rapor hazırlıyor, kod geliştirmeye yardımcı oluyor. İş süreçlerinde iyi sonuçlar aldıkça şirketlerin beklentileri de büyüyor. Siber güvenliğini de bu araçlara emanet etme fikri cazip gelmeye başlıyor. Hatta mümkünse bütün süreçleri bir anda devretmek isteniyor.
Yazan: SearchInform Bilgi Güvenliği Uzmanı Pınar Güneş
Ancak uygulamada işler bu kadar kolay değil. Bir metindeki ifadeyi beğenmezseniz değiştirirsiniz. Önemli bir sözleşmenin gönderilmesi yanlışlıkla engellendiğinde ise işler durabilir. Gözden kaçan bir güvenlik olayı da veri, para ve itibar kaybına yol açabilir. Kısacası, siber güvenlikte hatanın bedeli farklıdır.
Bu yüzden büyük dil modelleri (LLM) dahil yapay zeka araçlarını kullanmadan önce, hangi işleri onlara bırakabileceğinizi ve hangi süreçlerde devreye girmemeleri gerektiğini belirlemeniz gerekir.
Şirketin siber güvenlik altyapısında yapay zekaya yer açarken kaçınılması gereken dört hata var.
1. Gerekmediği yerde yapay zeka kullanmak
Yapay zekayı devreye almadan önce, aynı işin klasik algoritmalarla yapılıp yapılamayacağına bakın.
Veri akışındaki banka kartı numaralarını tespit etmek için yapay zeka kullanmak, markette para üstünü hesaplasın diye matematik profesörünü işe almaya benzer.
Belirli bir kalıba uyan verileri tespit etmek için düzenli ifadelerle (regex) arama yapabilen veri sızıntısı önleme (DLP) sistemleri çoğu zaman yeterlidir. Gizli dosyaların kopyalarını veya bu dosyalardan alınmış bölümleri bulmak için de referans belgelerden üretilen dijital parmak izleri kullanılabilir.
Mevcut yöntem beklenen doğruluğu ve hızı sağlıyorsa, daha fazla kaynak tüketen bir araca geçmenin anlamı yoktur.
Yapay zekadan, anlamı ve bağlamı yorumlamak gereken daha karmaşık işlerde yararlanmak daha yerinde olur. Örneğin, kurum içi bir inceleme sırasında uzun bir e-posta yazışmasındaki şüpheli anlaşmaları tespit etmek veya yazışmanın kısa bir özetini çıkarmak gibi.
2. Son kararı yapay zekaya bırakmak
Yapay zekanın ne kadar kendinden emin konuşabildiğini hepimiz görüyoruz. Hatasını gösterdiğinizde aynı rahatlıkla, “Evet, hata yapmışım. İstersen yeniden hesaplayayım” diyebilir. Üstelik aynı modele aynı verilerle aynı soruyu sorduğunuzda bile farklı yanıtlar alabilirsiniz. Bu değişkenlik, dil modellerinin olasılıksal çalışma biçiminden kaynaklanır.
Siber güvenlikte böyle bir belirsizliği hafife alamazsınız. Modelin, sözleşme koşullarına ilişkin sıradan bir yazışmayı dolandırıcılık girişimi sandığını düşünün. Yazışmayı yalnızca inceleme için işaretlediyse güvenlik uzmanı bağlama bakar ve durumu açıklığa kavuşturur.
Ancak modele e-posta gönderimini kendi başına durdurma veya iş süreçleri için gerekli belgelere erişimi engelleme yetkisi verirseniz, ciddi sonuçlarla karşılaşabilirsiniz. Örneğin, bir anlaşma iptal olabilir.
Bu nedenle yapay zekadan destek alın, ancak son kararı her zaman sorumlu uzmana bırakın. Sonuçta, bütün bir departmanın işi durmuşken “LLM böyle karar verdi” demek, pek de ikna edici bir açıklama olmayacaktır.
3. Yapay zekayı kurumun ihtiyaçlarına uyarlamadan devreye almak
Bir modeli kendi altyapınızda çalıştırmak, verilerin işlenmesi üzerinde daha fazla kontrol sahibi olmanızı sağlar. Ancak yerel bir modelin OpenAI veya Google’ın bulut tabanlı çözümleriyle aynı özelliklere sahip olacağını ve aynı kalitede sonuçlar üreteceğini varsaymamak gerekir.
Ayrıca modelin hangi bilgileri arayacağı, hangi veri kaynaklarından yararlanacağı ve nasıl bir çıktı üreteceği önceden belirlenmelidir. Yapılacak işe bağlı olarak modelin talimatlarını düzenlemek, kurumsal veri kaynaklarına erişimini sağlamak veya ek verilerle eğitmek gerekebilir.
Kısacası, modeli ihtiyaçlarınıza göre uyarlamadan doğrudan kullanıma almayın. Aksi hâlde kurulum için harcadığınız zaman ve kaynaklar beklediğiniz karşılığı vermeyebilir.
4. Yapay zekaya gereğinden fazla yetki vermek
Yapay zeka kullanımı, beraberinde yeni riskleri de getirir. Bunlardan biri prompt enjeksiyonudur. Örneğin bir saldırgan, bir promptun içine gizli bilgilerin harici bir adrese gönderilmesini isteyen kötü amaçlı bir talimat gizleyebilir. Model bu talimatı yerine getirmeye çalışırsa ve bağlı araçlar da böyle bir işleme izin verirse yapay zeka asistanı bir veri sızıntısına neden olabilir.
Bu nedenle erişim ve yetki kontrolü modelin kendisine bırakılmamalıdır. Kullanıcıların erişim hakları ve işlem yetkileri, modelden bağımsız mekanizmalar aracılığıyla doğrulanmalıdır.
Hem yapay zekaya hem de bağlı araçlara yalnızca görevlerini yerine getirmek için ihtiyaç duydukları yetkiler verilmelidir. Kritik işlemler için ek kısıtlamalar getirilmeli ve sorumlu uzmanın onayı zorunlu tutulmalıdır.
Yapay zeka yardımcı olarak kalmalı
Bilgi güvenliğinde yapay zeka kullanımının amacı, analiz süresini kısaltmak ve riskleri daha doğru tespit etmektir. Yapay zeka yalnızca kimlik numaralarını kontrol etmek için yoğun kaynak tüketiyorsa veya sonuç alabilmek için modele neredeyse sınırsız yetki vermeniz gerekiyorsa projeyi yeniden değerlendirmek gerekir.
Yapay zeka asistanı ne kadar akıllı görünürse görünsün, asistan olarak kalmalıdır.
