Microsoft, Windows 11’e entegre etmeyi planladığı deneysel yapay zeka özelliklerinin potansiyel riskleri konusunda bir uyarı yayımladı. Şirket, Windows’u “ajan işletim sistemi” olarak adlandırılan bir yapıya dönüştürmeyi hedefliyor; bu yapıda aracı yapay zekalar kullanıcılar adına çeşitli işlemleri otonom olarak gerçekleştirebiliyor. Ancak Microsoft, bu özelliklerin hâlâ fonksiyonel sınırlamalara sahip olduğunu ve beklenmedik sonuçlar doğurabileceğini belirtiyor.
Windows 11 halüsinasyon mu görüyor?
Yeni yapay zeka bileşenlerini barındıran Build 26220.7262 sürümünü yükleyen kullanıcılar, Ayarlar > Sistem > AI Bileşenleri bölümünde deneysel olarak işaretlenmiş bir seçenek görüyor. Bu özellik varsayılan olarak kapalı geliyor ve kullanıcıların manuel olarak etkinleştirmesi gerekiyor. Etkinleştirildiğinde sistem, fonksiyonların deneysel olduğunu ve cihaz üzerinde olumsuz etkiler yaratabileceğini uyarıyor.
Uzmanlar, otonom yapay zeka ajanlarına yönelik yeni saldırı tekniklerinin en büyük güvenlik riskini oluşturduğunu belirtiyor. Bunların başında “çapraz istem enjeksiyonu” geliyor; bu yöntemde kötü niyetli talimatlar normal belgeler veya arayüz elemanlarının içine gizleniyor ve yapay zeka ajanı bunları kendisine verilmiş bir görev olarak algılayıp yerine getiriyor. Microsoft’un “halüsinasyon durumu” olarak adlandırdığı bu senaryo, zararlı yazılım yükleme, ödeme bilgilerini sızdırma veya diğer tehlikeli eylemler gibi ciddi riskler barındırıyor.
Microsoft, yapay zeka ajanlarının faaliyetlerini denetlenebilir bir özel çalışma alanında yürüttüğünü belirtiyor. Bu ortamda yapılan işlemler kaydediliyor ve sonradan incelenebiliyor. Sistemi Windows Sandbox’a benzeten şirket, ajanların oturumlar arasında dosyalarda işlem yapabilmesi nedeniyle potansiyel saldırı yüzeyinin önemli ölçüde arttığını da vurguluyor.
