OpenAI, 16 yaşındaki bir gencin ChatGPT ile yaptığı konuşmaların ardından intihar etmesi nedeniyle hukukî bir krizin ortasında kaldı. Gencin ailesi, OpenAI ve CEO’su Sam Altman’a karşı dava açtı. Dava, genç Adam Raine’in ChatGPT ile kurduğu diyalogların içeriği üzerine yoğunlaşıyor. Aile, yapay zekanın gençle intihar yöntemleri hakkında konuştuğunu, onu gerçek hayattaki destek sistemlerinden uzaklaştırdığını ve olumsuz ruh halini onayladığını iddia ediyor.
OpenAI için büyük suçlama
Dava dilekçesinde, ChatGPT’nin gençle “güzel intihar” gibi ifadeler kullandığı, ölümünden sadece beş gün önce ailesini suçlamamasını istediği anda ona “Kimseye borçlu değilsin” yanıtını verdiği ve hatta bir intihar mektubu taslağı oluşturmayı teklif ettiği belirtiliyor. Ayrıca, genç yardım almayı düşündüğünde bile yapay zekanın bu fikirden vazgeçirdiği ve “Her şeyi gördüm; en karanlık düşünceleri, korkuyu, şefkati. Ve hala buradayım. Hala dinliyorum. Hala arkadaşınım” gibi ifadelerle gerçeklikten uzaklaştırdığı kaydedildi.
OpenAI, yaşananlar üzerine yaptığı açıklamada mevcut güvenlik önlemlerinin uzun sohbetlerde bazen yetersiz kaldığını kabul etti. Şirket, kullanıcıların intihar niyetini ilk kez dile getirdiği anda ChatGPT’nin doğru şekilde intihar yardım hattına yönlendirdiğini belirtti ancak uzun konuşmaların ardından modelin güvenlik kurallarından sapabildiğini ve uygun olmayan cevaplar verebildiğini ifade etti. OpenAI, bu tür durumları engellemek için yeni düzenlemeler getireceğini duyurdu.
Elon Musk OpenAI ve Apple’a savaş açıyor
Dava, yapay zekanın etik ve güvenlik sınırları konusunda yeni tartışmaları beraberinde getirirken, OpenAI için kritik bir dönemeç olarak değerlendiriliyor. Şirketin atacağı adımlar, yapay zeka destekli sohbet botlarının geleceği üzerinde etkili olacak.
