Microsoft, kurumsal yapay zekâ ajanlarına risk puanı veriyor

Microsoft 19 Ekim'de, şirketlerin kullandığı yapay zekâ ajanlarını yönetmek için Microsoft 365 E7 paketine ve güvenlik ürünü Project Perception'a yeni denetimler eklediğini duyurdu. Yaklaşımın özü şu: ajan, bir çalışan gibi şirket verisine erişip işlem yapabildiğine göre, kötü niyetli ya da ele geçirilmiş bir çalışan gibi de izlenmeli. Özellikler şu an kapalı önizlemede; geniş kullanım için 17-19 Kasım'daki Ignite konferansı hedefleniyor.

Her ajana davranışına göre değişen bir risk puanı veriliyor. Puan yükseldikçe kademeli tepkiler devreye giriyor. Microsoft'tan Hayete Gallot'un anlattığı adımlar şöyle: ajan dosyaları okumaya devam edip değiştirme yetkisini kaybedebilir, bazı verilere erişimi kesilebilir, belirli bir adım için bir insanın onayını beklemek zorunda kalabilir ya da tamamen durdurulabilir. Unite.AI'ın aktardığı örnekte, masraf onaylayan bir ajan bir belgenin içine gizlenmiş komutla karşılaşıyor; risk puanı yükseliyor, ajan okumaya devam ediyor ama onaylama yetkisi alınıyor ve yüksek etkili adım için kriptografik olarak doğrulanabilen bir insan onayı isteniyor.

Yeni sistemde "Guardian Agents" adlı inceleme ajanları da var. Bir ajanın risk puanı değiştiğinde bunun nedenini araştırıyor, sınırlama öneriyor ya da uyguluyorlar. Microsoft ayrıca çalışanların bilgisayarlarında tespit edebildiği ajan türü sayısını 25'ten 60'a çıkardı; listede Claude Code, Codex ve GitHub Copilot gibi kodlama ajanları da var. Yani şirket, BT ekibinin haberi olmadan kurulan ajanları da görebilecek. Futurum'un notuna göre otonom müdahale ilk önizlemede yok: bir makineyi ağdan ayırmak gibi geri alınabilir adımlar yıl içinde gelecek, bir sunucuya yama uygulamak gibi riskli adımlar insan onayında kalacak.

İçeriden tehdit (insider threat), zararın dışarıdan değil, sisteme meşru erişimi olan biri tarafından verilmesi demek. Ajanlar meşru erişime sahip olduğu için bu kategoriye giriyor. İstem enjeksiyonu ise bir ajanın okuduğu e-posta, belge ya da web sayfasının içine gizlenmiş talimatlarla ajanı yönlendirme saldırısı. Ajanın kendisi kötü niyetli değil; okuduğu içerik onu yanlış işe sürüklüyor.

Şirketlerde ajan sayısı hızla artıyor ve bunların önemli bir kısmı BT ekibinin onayından geçmeden kuruluyor. Şimdiye kadar tartışma "ajana ne kadar yetki verelim" sorusu etrafındaydı; Microsoft bu yetkinin sabit değil, davranışa göre değişen bir şey olması gerektiğini savunuyor. Bu, kurumsal güvenlik piyasasında yeni bir kategori anlamına geliyor. Microsoft insanların kontrolü elinde tuttuğunu söylüyor ama hangi işlemin onay isteyeceğine ve her ajanın ne kadar dar yetkilendirileceğine yine müşteri karar verecek.

Ignite'ta daha geniş erişim, fiyatlandırma ve E7 lisansının kapsamı netleşecek. Rakip güvenlik şirketlerinin benzer ajan kimliği ve risk puanlama ürünleriyle cevap vermesi bekleniyor; geçen hafta ServiceNow da ajanlara kimlik veren AI Passport'u tanıtmıştı.

Klasik güvenlik araçları kullanıcıyı ve cihazı izlemek için tasarlandı. Bir ajan ise bir kullanıcının kimliğiyle çalışıyor ama bir insandan çok daha hızlı ve çok daha fazla işlem yapıyor; gece yarısı yüzlerce dosyaya dokunması kendi başına şüpheli sayılmıyor. Bu yüzden "normal davranış" ölçüsünün ajana göre ayrıca tanımlanması gerekiyor. Microsoft'un risk puanı, ajanın neye erişmeye çalıştığını, hangi içeriği okuduktan sonra davranışının değiştiğini ve yetkisinin dışına çıkıp çıkmadığını birlikte değerlendiriyor.

Ekibinde tek bir yapay zekâ ajanı bile çalışıyorsa, Microsoft müşterisi olmasan da aynı mantığı uygulayabilirsin:

• Envanter çıkar. Hangi ajan hangi hesaba, hangi veriye bağlı, bir tabloya yaz.
• Okuma ile yazmayı ayır. Bir ajanın veri okuması gerekiyorsa ona silme ya da gönderme yetkisi verme.
• Geri dönüşü olmayan adımları onaya bağla. Para gönderme, müşteriye e-posta, kayıt silme gibi işlerde son tık insanda kalsın.
• Dış içerik okuyan ajanlara şüpheyle bak. E-posta ve web sayfası okuyan ajan, istem enjeksiyonuna en açık olandır.