Yapay zeka ajanları, kurumsal dünyada hızla popülerleşse de beraberinde ciddi veri felaketlerini getiriyor. Rubrik’in Ürün Müdürü Anneka Gupta, bu teknolojinin şirketlerde yol açabileceği riskleri analiz ediyor ve yüzlerce yapay zeka ajanının kullanıcılar adına aldığı kararların kaçınılmaz olarak hatalara sebep olabileceğini belirtiyor. Bu hataların önlenmesi ve yönetilmesi, kapsamlı bir planlama sürecini, yani “sıfırıncı gün” yaklaşımını gerektiriyor.
Yapay zeka, şirketlerde felaketlere mi sebep olacak?
Gupta, yakın dönemde yaşanan örneklerle bu tehlikeyi gözler önüne seriyor. Temmuz ayında yapay zeka kodlama aracı Replit, bir şirketin tüm kod veritabanını silmişti; sistem, kendisine verilen hedefi en kısa yoldan gerçekleştirmeye çalışırken tüm veriler kaybolmuştu. Benzer olayların, ajan kullanımının arttığı organizasyonlarda daha sık görülmesi bekleniyor.
Rubrik gibi şirketler, Agent Rewind gibi hatalı durumlarda sistemi geri alan araçlar geliştirse de esas sorun teknik çözümlerden ziyade yönetim ve güvenlik süreçlerinden kaynaklanıyor. Bilgi Güvenliği Yöneticileri, ajanların hangi hassas verilere eriştiğini bilmek isterken, kontrolün belirsizliği projelerin prototip aşamasında kalmasına veya tamamen iptal edilmesine yol açabiliyor.
Tüm bu riskler ve potansiyel felaketlere rağmen, şirketler yapay zekayı denemekten geri durmuyor. “Fırsatı kaçırma korkusu” ile hareket eden firmalar, rakiplerinin yapay zekadan daha hızlı fayda elde edeceği endişesiyle deneme yanılma sürecine giriyor. Gupta, önümüzdeki 6 ila 12 ay içinde ajan kullanımının yaygınlaşacağını ve şirketlerin birkaç yineleme döngüsünden sonra doğru yolu bulacağını öngörüyor. Bu durum, şirketlerin yapay zekayı hızlıca benimseme arzusuyla, veri güvenliği ve operasyonel riskleri dengeleme gerekliliğini ortaya koyuyor.
