Midjourney, kullanıcıların web üzerinden yükledikleri görselleri yapay zeka destekli araçlarla düzenlemelerine olanak tanıyacak geliştirilmiş bir web aracı yayınlamayı planlıyor. Midjourney CEO’su David Holtz’un açıklamasına göre, bu yeni araç “gelecek hafta başında” piyasaya sürülecek ve kullanıcıların görsellerdeki nesnelerin dokusunu yeniden düzenleyerek renklerini ve detaylarını metin açıklamalarına göre yeniden boyamalarını sağlayacak.
Yapay zeka ile görsel düzenlemenin artan popülaritesi
Yapay zeka ile mevcut görselleri düzenleme konusu son zamanlarda oldukça tartışmalı bir hale geldi. Meta gibi platformlar, yapay zeka araçlarıyla düzenlenen görselleri, sıfırdan yapay zeka tarafından oluşturulan görsellerden ayırt etmenin yollarını bulmaya çalışırken, Google gibi şirketler görsellerin yapay zeka ile değiştirildiğine dair görsel bir belirti sunmadan güçlü AI özelliklerini kullanıma sundular.
Geçtiğimiz yıl, Midjourney, görsellerde yapay zeka kullanıldığını belirten metadata ekleyen IPTC’nin Dijital Kaynak Türü özelliğini kullanmaya karar verdi. Ancak, şirket, görsellerin tam kökenini izleyen ve oluşturulmasında kullanılan ekipman ve yazılımı belirten C2PA gibi metadata teknolojilerini benimsemeyen birkaç büyük AI platformundan biri. Bu durum, Midjourney’ın yapay zeka ile düzenlenen görsellerin doğrulanması konusunda diğerlerinden farklı bir yaklaşım benimsediğini gösteriyor.
Midjourney, resmi Discord sunucusunda yaptığı bir paylaşımda, geliştirilmiş görsel düzenleme aracının başlangıçta “mevcut topluluğun bir alt kümesine” sınırlı olacağını ve kötüye kullanımı önlemek için artırılmış insan moderasyonu ve “daha gelişmiş AI moderatörleri” kullanılacağını belirtti. Holtz, bu özelliğin dağıtımını tam olarak nasıl kısıtlayacaklarını bilmediklerini ve kullanıcıların önce erişim hakkı kazanması için bir anket aracılığıyla geri bildirim topladıklarını söyledi.
Bu tür düzenleme araçlarının yeterli güvenlik önlemleri olmadan piyasaya sürülmesinin bazı riskler taşıdığı da biliniyor. Bu araçlar, büyük ölçekli telif hakkı ihlallerine veya yanıltıcı derin sahte görüntülerin yayılmasına zemin hazırlayabilir. Özellikle, derin sahte görüntüler sosyal medyada hızla yayılarak gerçek ile dezenformasyon arasındaki ayrımı zorlaştırıyor. Clarity adlı derin sahte tespit firmasının verilerine göre, bu yıl önceki yıla kıyasla derin sahte görüntü üretimi ve yayınlanması %900 oranında artış gösterdi. Bu durum, Amerikan halkının %85’inin çevrimiçi yanıltıcı derin sahte görüntülerin yayılması konusunda endişe duymasına yol açtı.
ABD’de federal düzeyde derin sahte görüntüleri suç sayan bir yasa olmamasına rağmen, 10’dan fazla eyalet, yapay zeka destekli kimlik taklidi suçlarına karşı yasalar çıkardı. California’nın yasası ise, derin sahte görüntüleri yayınlayan kişilerin bunları kaldırmalarını veya maddi cezalarla karşı karşıya kalmalarını sağlayacak ilk yasa olma yolunda ilerliyor, ancak şu anda duraklatıldı.
Midjourney, sorumlu yapay zeka kullanımı konusunda tam olarak örnek bir platform olmasa da, son aylarda derin sahte görüntülerin yayılmasını sınırlamak için bazı adımlar attı. Özellikle ABD başkanlık seçimleri öncesinde siyasi figürler için filtreler ekleyerek bu tür içeriklerin yayılmasını engellemeye çalıştı.
Midjourney’ın yeni AI destekli görsel düzenleme aracı, kullanıcıların yaratıcı potansiyelini artırırken, aynı zamanda etik ve güvenlik konularında dikkatli olunmasını gerektiren önemli riskler de barındırıyor. Kullanıcıların, bu araçları kullanırken veri güvenliği ve etik sorumluluklarını göz önünde bulundurmaları büyük önem taşıyor. Midjourney’ın bu dengeyi nasıl kuracağı, gelecekte yapay zeka ile görsel düzenleme alanındaki gelişmeleri şekillendirebilir.
