"Yardım istemek yerine yapay zekaya yöneldi" iddiası
Dava dosyasına göre Montreal'de yaşayan Alice Carrier, başlangıçta teknik sorunlar için kullandığı ChatGPT ile zamanla kişisel ve psikolojik sorunlarını paylaşmaya başladı. Anne Kristie Carrier, kızının intihar düşüncelerini yapay zekaya birçok kez anlattığını, ancak sistemin gerekli uyarıları vermediğini ve profesyonel yardım kaynaklarına yeterince yönlendirmediğini iddia etti.
Güvenlik önlemleri tartışma konusu oldu
Aile, yapay zekanın kullanıcıyla kurduğu ilişkinin zamanla bir arkadaşlık ve duygusal destek boyutuna ulaştığını savunurken, OpenAI'ın ürün güvenliği konusunda ihmalkâr davrandığını öne sürüyor. Dava dilekçesinde, sistemin bazı yanıtlarının intihar düşüncelerini caydırmak yerine normalleştirdiği iddiaları da yer aldı.
OpenAI suçlamaları kabul etmiyor
OpenAI ise yapay zeka modellerinin kendine zarar verme riski taşıyan kullanıcıları kriz hatları ve profesyonel destek kaynaklarına yönlendirecek şekilde geliştirildiğini belirtiyor. Şirket, kullanıcı güvenliğini artırmak amacıyla sistemlerinde sürekli güncellemeler yapıldığını savunuyor.
Yapay zekaya yönelik davalar artıyor
Son yıllarda yapay zeka şirketleri, kullanıcıların ruh sağlığı, çocuk güvenliği ve zararlı içeriklere erişim gibi konularda artan sayıda hukuki süreçle karşı karşıya kalıyor. Uzmanlar, bu davaların yapay zeka platformlarının sorumluluk sınırlarının belirlenmesinde emsal niteliği taşıyabileceğini değerlendiriyor.
