Meta’nın açık kaynak yapay zeka modeli Llama, kullanıcıların yaratıcılıklarını geliştirmek ve bilgiye erişim sağlamak amacıyla açık bir şekilde sunulmuştu. Ancak son gelişmeler, açık kaynak teknolojilerin kontrolsüz şekilde nasıl farklı amaçlarla kullanılabileceği konusundaki tartışmaları yeniden alevlendirdi. Çinli araştırmacılar, Meta’nın Llama modelini temel alarak “ChatBIT” adlı askeri odaklı bir yapay zeka modeli geliştirdi. Bu gelişme, açık kaynak yapay zekanın ulusal güvenlik bağlamındaki risklerini bir kez daha gündeme getirdi.
ChatBIT ve askeri istihbarat
Çin Halk Kurtuluş Ordusu’na (PLA) bağlı araştırmacıların, Llama modelini kullanarak ChatBIT adlı bir yapay zeka sistemi geliştirdiği bildirildi. Bu modelin, askeri diyalogları işlemek ve operasyonel kararları desteklemek için özel olarak tasarlandığı belirtiliyor. ChatBIT’in, Meta’nın Llama 2 13B modeline entegre edilen parametrelerle oluşturulduğu ve performansının GPT-4’e %90 oranında yaklaştığı iddia ediliyor. Ancak, bu performansın nasıl ölçüldüğüne dair detaylı bir metodoloji açıklanmamış olması, iddiaların doğruluğunu değerlendirmeyi zorlaştırıyor.
ChatBIT’in geliştirilmesinde kullanılan veri setinin, sadece 100.000 askeri diyalog kaydıyla sınırlı olduğu bildirildi. Bu sayı, batıda kullanılan trilyonlarca veri noktasına kıyasla oldukça küçük kalıyor ve modelin karmaşık askeri görevlerdeki etkisini sınırlayabileceği düşünülüyor.
Meta, Llama modelini yalnızca sivil ve araştırma amaçlı kullanımlar için sunmuştu. Ancak açık kaynak teknolojilerin, bu tür sınırlamaların ötesinde nasıl kullanılabileceği sorusu burada kilit bir rol oynuyor. Meta, bu tür askeri uyarlamaların kendi kullanım politikalarına aykırı olduğunu belirtti ve bu durumu açık bir şekilde kınadı. Şirketin Kamu Politikaları Direktörü Molly Montgomery, “Halk Kurtuluş Ordusu’nun modellerimizi kullanması tamamen yetkisizdir ve kabul edilebilir kullanım politikamıza aykırıdır” açıklamasını yaptı.
Açık kaynak teknolojilere erişimin sınırlandırılması gerektiği yönündeki çağrılar ABD’de yeniden gündeme geldi. ABD hükümeti, bu teknolojilerin düşmanca askeri ilerlemeleri desteklemesini engellemek için yeni ihracat kontrolü önlemleri üzerinde çalışıyor. Ayrıca, Çin’in yapay zeka ve yarı iletken sektörlerine yönelik Amerikan yatırımlarının sınırlanması gibi politikaların devreye alınması da tartışılıyor.
Meta, ChatBIT’in geliştirilmesinde kullanılan Llama 2 13B modelinin artık eski bir sürüm olduğunu ve şirketin şu anda Llama 4 üzerinde çalıştığını duyurdu. Meta’nın bu güncel adımları, gelecekteki modellerin güvenlik önlemlerini artırmaya yönelik bir çaba olarak değerlendirilebilir.
Açık kaynak yapay zeka modellerinin sivil ve etik amaçlar dışında kullanımı, teknoloji dünyasında daha sık tartışılmaya başlandı. ChatBIT gibi örnekler, bu teknolojilerin potansiyel faydaları kadar risklerini de gözler önüne seriyor.
