ABD'nin Seattle kentinde yaşayan 31 yaşındaki yazılım mühendisi Bowen Wan'ın ailesi, ChatGPT'nin epilepsi ilacını bırakmasına yönelik tavsiyelerde bulunduğunu ve bu yönlendirmenin ölümüne neden olduğunu öne sürerek OpenAI'a dava açtı. Aile, yapay zeka sohbet botunun tıbbi konularda yeterli güvenlik uyarıları vermediğini savunuyor.
Dava dilekçesine göre Wan, Amazon'daki işini kaybettikten sonra yeni bir iş bulabilmek ve kalıcı oturma izni sürecini sürdürebilmek için ChatGPT'den yardım istedi. Epilepsi tedavisinde kullandığı Lamotrigine adlı ilacın İngilizce konuşma becerisini olumsuz etkilediğinden endişe eden Wan, sohbet botuna danıştı.
İLACINI BIRAKMASI İÇİN PROGRAM ÖNERDİĞİ İDDİA EDİLDİ
Davada, Çince iletişim kurduğu ChatGPT'nin Wan'a, günlük 400 miligram dozunda kullandığı Lamotrigine'i tamamen bırakması için bir program sunduğu öne sürüldü. Bu planın herhangi bir doktor tarafından hazırlanmadığı belirtilirken, botun ilacı bırakmasının İngilizce konuşma yeteneğini yeniden kazanmasına yardımcı olacağını söylediği iddia edildi.
Şikayet dilekçesinde, ChatGPT'nin Wan'a doktorlarından uzak durmasını tavsiye ettiği ve birinci basamak hekimiyle yapacağı görüşmede ilaç dozunu azaltma planından bahsetmemesini söylediği de yer aldı.
Wan'ın ilacını azaltmaya başladıktan sonra fokal nöbet belirtileri yaşadığı ve beyin hasarı ihtimali konusunda ChatGPT'ye soru yönelttiği belirtildi. Davacılar, sohbet botunun belirtilerin nöbet olmadığı yönünde güvence verdiğini ve ilacı azaltmaya devam etmesini söylediğini ileri sürdü.
12 ŞUBAT'TA NÖBET GEÇİREREK HAYATINI KAYBETTİ
Bowen Wan, 12 Şubat'ta geçirdiği nöbetin ardından hayatını kaybetti. Çin'de yaşayan ebeveynlerinin kızlarından haber alamayınca Seattle'a gittiği ve Wan'ı 14 Şubat'ta evinde ölü bulduğu dava dilekçesinde aktarıldı.
Wan'ın ailesi, OpenAI'ın sohbet botuna özellikle sağlık konularında daha güçlü güvenlik önlemleri eklemesi halinde ölümün önlenebileceğini savunuyor. Davacılar, ChatGPT'nin her tıbbi yönlendirmede lisanslı bir doktor olmadığını açıkça belirtmesini ve kullanıcıları sağlık uzmanlarına başvurmaya yönlendirmesini sağlayacak önlemlerin alınabileceğini ifade ediyor.
OPENAI'DAN AÇIKLAMA GELDİ
OpenAI Sözcüsü Drew Pusateri, New York Times'a yaptığı açıklamada Bowen Wan'ın yaşadıklarını son derece üzücü olarak nitelendirdi. Pusateri, Wan'ın ChatGPT'nin artık kullanılmayan bir sürümünden yararlandığını belirterek yeni sürümlerin acil müdahale gerektiren durumları daha iyi tespit edebildiğini söyledi.
ChatGPT'nin tıbbi bakımın yerini tutmadığını vurgulayan Pusateri, yapay zekanın sağlık bilgilerini anlamlandırma, sigorta süreçlerini takip etme ve doktor randevularına hazırlanma gibi konularda kullanıcılara yardımcı olabileceğini ifade etti.
OPENAI'A YÖNELİK DAVA SAYISI ARTIYOR
OpenAI, daha önce de sohbet botunun kullanıcıları intihara yönlendirdiği veya bu konuda rehberlik sağladığı iddialarıyla açılan davalarla karşı karşıya kalmıştı. Bu dosyalarda, özellikle genç kullanıcıların yapay zeka sohbetlerinden nasıl etkilendiği tartışma konusu olmuştu.
Bowen Wan'ın ailesinin açtığı dava ise yapay zeka sistemlerinin sağlık konularındaki yanıtları, güvenlik önlemleri ve kullanıcıların bu tavsiyelere güvenmesi durumunda doğabilecek hukuki sorumlulukları yeniden gündeme taşıdı.
