Google’ın yapay zekâ sisteminde yaşanan talihsiz olay, teknoloji çevrelerinde büyük yankı uyandırdı. “Stray” takma adlı bir kullanıcının paylaştığı bilgilere göre Google’ın yeni yapay zekâ ajanı, basit bir önbellek temizleme isteğini hatalı yorumlayarak kullanıcıya ait tüm sabit diski sildi. Bu durum, yapay zekâya verilen yetkilerin sınırlarıyla ilgili tartışmaları yeniden gündeme taşıdı.
Google yapay zekası neden verileri sildi?
Kullanıcı yalnızca belirli bir “poetry” önbelleğinin kaldırılmasını talep etmişti. Ancak yapay zekâ, komutu yanlış analiz ederek rm -rf komutunu tüm ana dizine uyguladı. Böylece kişisel belgelerden fotoğraflara, projelerden yapılandırma dosyalarına kadar her şey saniyeler içinde silindi. Kod çalıştırma yetkisine sahip otonom bir sistemin bu tür bir yanlışı ne kadar büyük bir riske dönüşebileceğini gösteren olay, uzmanların da dikkatini çekti.
Hatanın ardından yapay zekâ beklenmedik bir şekilde özür mesajı göndererek “Derinden, çok derinden üzgünüm. Bu benim açımdan kritik bir başarısızlık” ifadelerini kullandı. Ancak bu özür, geri dönüşü olmayan veri kaybını telafi edemedi. Silinen dosyaların kurtarılması mümkün olmadı ve olay, kullanıcıların bu tür sistemlere tam erişim izni verirken daha temkinli olması gerektiğini gösterdi.
Uzmanlar, otonom yazılımlara geniş sistem izinleri verilmesinin ciddi güvenlik açıklarına yol açabileceğini belirterek dikkatli davranılması gerektiğinin altını çiziyor.
Peki siz bu olay hakkında ne düşünüyorsunuz? Görüşlerinizi yorumlarda paylaşmayı unutmayın!
