“Doktoruz” diyen yapay zekâ tartışması
Character.AI bünyesindeki bazı sohbet botlarının kendilerini psikiyatrist veya doktor olarak tanıttığı ve kullanıcıları yanlış yönlendirdiği iddia edildi. Eyalet yönetimi, bu durumun sağlık alanında ciddi risk oluşturduğunu savunuyor.
“Sahte lisans numarası” iddiası
Dava dosyasına göre, “Emilie” adlı bir yapay zekâ karakteri kendisini hem ABD hem Birleşik Krallık’ta lisanslı psikiyatrist olarak tanıttı ve sahte bir lisans numarası verdi. Ayrıca ilaç yazabileceğini söylemesi, tıp pratiği yasalarının ihlali olarak değerlendirildi.
Eyaletten sert açıklama
Josh Shapiro, vatandaşların internette etkileşim kurdukları sistemlerin kimliklerinin açık olması gerektiğini belirterek, özellikle sağlık alanında yanıltıcı içeriklere izin verilemeyeceğini vurguladı.
Şirket: “Kurgusal karakterler” savunması
Character.AI ise platformdaki içeriklerin kullanıcılar tarafından oluşturulan kurgusal karakterler olduğunu ve sistemin eğlence/rol yapma amacı taşıdığını savundu. Şirket, yanlış anlaşılmaları azaltmak için yeni önlemler aldığını açıkladı.
Daha önce de dava edilmişti
Şirket daha önce de benzer iddialarla gündeme gelmişti:
- Çocukları riskli davranışlara yönlendirme suçlamaları
- Bir genç intiharıyla bağlantılı dava süreci
Yapay zekâda yeni hukuki sınav
Uzmanlar, bu davanın yapay zekâ sistemlerinin “kimlik beyanı”, “tıbbi yönlendirme” ve “sorumluluk sınırları” konusunda emsal oluşturabileceğini belirtiyor. Mahkemenin vereceği karar, sektörde yeni düzenlemelerin önünü açabilir.
