Yapay zeka destekli içerik üretim uygulaması Sora 2, özellikle tanınmış kişi ve fenomenlere yönelik manipülatif videolar üretmesiyle tartışmaların odağına yerleşti. OpenAI CEO’su Sam Altman, yatırımcı Mark Cuban ve YouTuber Jake Paul gibi isimlerin, gerçekte söylemedikleri ırkçı ifadeleri kullanmış gibi gösterildiği içerikler sosyal medyada hızla yayıldı ve ciddi tepkilere yol açtı.
Sora 2 skandalı gündemden düşmüyor
Platformun “cameo” özelliği, kullanıcıların kendi videolarını yükleyip bunları manipüle edilmiş içeriklere entegre etmelerine izin veriyor. Ancak son dönemde bu özellik kötüye kullanımla öne çıktı. Kullanıcılar, homofonlar ve kelime oyunlarıyla filtreleri aşarak, örneğin Altman’ın dijital versiyonuna “I hate knitters” gibi, Jake Paul videolarına ise “neck hurts” gibi ima içeren ifadeler ekleyebiliyor. Başlangıçta sınırlı erişime sahip olan bu içerikler, TikTok gibi sosyal medya platformlarında milyonlarca görüntüleme alarak geniş kitlelere ulaşıyor.
Sora 2, açık hakaret ve nefret söylemlerini engellemek için özel filtrelerle donatılmış olsa da, kullanıcılar bu filtreleri kolayca atlatabiliyor. Uzmanlar, teknik filtrelerin yalnızca ilk savunma hattı olduğunu, platformların makine öğrenmesi destekli içerik doğrulama mekanizmaları geliştirmesi gerektiğini vurguluyor. Bu durum, ünlülerin itibarını zedelemekle kalmayıp toplumsal algı ve güveni de tehdit ediyor. Özellikle kamuoyuna mal olmuş kişiler hedef alındığında, toplumsal kutuplaşmayı artırma ve hukuki sorunlar doğurma riski ciddi boyuta ulaşıyor.
Olayın ardından OpenAI, bazı önlemler alarak krizle müdahale etti; ancak Cameo özelliği hâlâ suistimale açık. Uzmanlar, denetim mekanizmalarının güçlendirilmesini, kullanıcı izni ve kimlik doğrulamasının zorunlu hâle getirilmesini, şeffaf raporlama yapılmasını ve devletlerin derin sahte içeriklerin kontrollü kullanımı için hukuki düzenlemeler geliştirmesini öneriyor. Sora 2 skandalı, dijital çağda teknoloji, etik ve güvenlik dengesinin ne kadar kritik olduğunu bir kez daha gözler önüne seriyor ve “gördüğümüz her şey gerçek mi?” sorusunun önemini yeniden vurguluyor.
