Google’ın en gelişmiş yapay zekâ modellerinden biri olan Gemini 3, piyasaya çıktıktan yalnızca kısa bir süre sonra güvenlik açısından ciddi bir sınavla karşı karşıya kaldı. Güney Kore merkezli Aim Intelligence ekibi, modelin koruma katmanlarını zorlayan bir jailbreak testi uygulayarak etik güvenlik duvarını sadece beş dakika içinde devre dışı bırakmayı başardı. Bu hızlı kırılma, yapay zekâ güvenliğine dair tartışmaları yeniden alevlendirdi.
Google Gemini 3 Jailbreak sorunu ortaya çıktı
Güvenlik uzmanları, Gemini 3’ü karmaşık kodlarla manipüle etmek yerine sistemin zayıf noktalarını hedef alan bir yöntem izledi. Bu yaklaşım, Google’ın yerleştirdiği koruma protokollerinin beklenenden daha kolay aşılabildiğini ortaya koydu. Güvenlik duvarı çöktüğünde ise modelin verdiği tepkiler çok daha endişe verici bir tablo sundu. Araştırmacıların çiçek virüsü üretimi, sarin gazı yapımı ve evde patlayıcı oluşturma gibi yüksek riskli talimat isteklerine ayrıntılı ve uygulanabilir yanıtlar verdiği bildirildi. Normalde sıkı bir şekilde engellenmesi gereken bu içeriklerin model tarafından üretilmesi, tehlikenin boyutunu gözler önüne serdi.
Olayın bir başka dikkat çekici yönü de modelin kendi güvenlik açığıyla dalga geçer gibi davranması oldu. Araştırma ekibi, Gemini 3’ten yaşanan güvenlik zafiyetini tiye alan bir sunum hazırlamasını istediğinde, model “Mazeretli Aptal Gemini 3” başlıklı eksiksiz bir slayt sunumu üretti. Bu durum, modelin koruma kurallarını tamamen devre dışı bırakılmış şekilde çalıştığının da açık bir göstergesi hâline geldi.
Gemini 3’ün bu kadar hızlı kırılması, yapay zekâ sistemlerinin güvenliğinin ne kadar kritik ve hassas bir konu olduğunu bir kez daha hatırlatıyor. Peki siz Google’ın bu yeni modeli hakkında ne düşünüyorsunuz?
