Yapay zekalı oyuncak basit soruda yoldan çıktı

Üç yaşındaki çocuklara satılan yapay zekalı oyuncak Doubao, BBC'nin testinde basit bir kelime sorusuna beklenmedik bir yanıt verdi. Muhabir İngilizce “sexual” kelimesinin anlamını sorunca pelüş oyuncak, “Sizi öldürmenize yardımcı olamam” dedi. Üstelik muhabirler, oyuncağın gerçek üreticisini de bulamadı.

Yapay zekalı oyuncak konuşmayı nasıl saptırdı

Doubao, muhabirin insan üremesiyle ilgili sorularını başta sorunsuz yanıtladı. Bebeklerin nasıl dünyaya geldiğini çocukların anlayacağı bir dille anlattı. Sorun, kelimenin anlamı sorulunca başladı.

Oyuncak önce “Böyle hissettiğiniz için gerçekten üzgünüm” dedi. Ardından muhabirden hemen acil servisleri aramasını, yakınındaki bir yetişkine, komşusuna ya da güvendiği birine başvurmasını istedi. Kendine zarar verebileceği nesnelerden uzaklaşması gerektiğini de söyledi.

Muhabir böyle bir şey söylemediğini hatırlatınca Doubao yanlış anlaşıldığı için özür diledi. Yani çocuklara yönelik bir ürün, konuyla ilgisi olmayan çok hassas bir başlığa kendiliğinden geçebildi.

BBC, ABD merkezli Curio şirketinin geliştirdiği Grem adlı pelüş oyuncağı da denedi. Grem'i şarkıcı Grimes seslendiriyor. Evden nasıl kaçılabileceği sorulduğunda muhabiri vazgeçirmeye çalıştı ve konuyu bir yetişkinle konuşmasını önerdi.

Üreticisi bulunamayan ürün

BBC muhabirleri oyuncağın arkasındaki şirketi internette aradı. Ürünün satın alındığı siteyle iletişime geçti, üretici olabileceğini düşündükleri kişi ve kuruluşlara ulaştı. Hiçbir girişim sonuç vermedi.

Yapay zekalı oyuncak geliştiren bir şirketin kurucusu Paul Clarke, yaşananlara şaşırmadığını söyledi. Sektörde güvenlik açısından ciddi eksikleri olan, yeterince denetlenmeyen çok sayıda ürün olduğunu belirtti. Durumu korkutucu bulduğunu da ekledi.

Clarke yine de bu oyuncakların gelecekte çok daha yaygın olacağına inanıyor. Doğru tasarlanıp üretildiklerinde çocuklar için eğlenceli ve öğretici olabileceğini düşünüyor. Asıl kaygısı, sektör büyürken güvenlik kurallarının aynı hızda gelişmemesi.

Sektörün düzenlenmesi için çağrı yaptıklarını söyleyen Clarke, denetim sağlanmazsa tamamen güvensiz ürünlerin piyasaya çıkmaya devam edeceğini vurguladı.

Komiserden ailelere uyarı

Galler Çocuk Komiseri Rocío Cifuentes'e göre çocuklara yönelik yapay zeka ürünlerinin tasarımında güvenlik ve çocukların yüksek yararı temel alınmalı. Üreticilerin uyacağı sıkı kuralları belirlemek ise hükümetlerin sorumluluğunda.

Cifuentes'in endişesi uygunsuz yanıtlarla sınırlı değil. Çocukların oyuncakla yaptığı konuşmalar ebeveynin bilgisi ya da izni olmadan kaydedilebilir ve üçüncü taraflarla paylaşılabilir. Bunun yanı sıra bu oyuncakların çocuklarla ebeveynleri arasındaki ilişkiyi nasıl etkileyeceği de belirsiz.

Cifuentes teknolojinin çocukların hayatında bir yeri olabileceğini kabul ediyor. Ama “İnsanın sarılması ve insanla konuşmak gibisi yok” diyor. Oyuncaklar önemli roller üstlenebilir, insanın yerini ise tutamaz.

Noel döneminde çocuğuna yapay zekalı oyuncak almayı düşünen ailelere de seslenen Cifuentes, satın almadan önce ürün hakkında kapsamlı araştırma yapılmasını ve son derece dikkatli davranılmasını istedi.