
ChatGPT'nin Yanlış Tıbbi Tavsiyeleri Ölümle Bitti: Aile OpenAI'a Dava Açtı
Yapay zeka botunun yönlendirmesiyle ilaçlarını bırakan ve nöbet geçirerek hayatını kaybeden yazılım mühendisinin ailesi, OpenAI şirketine dava açtı. Davacılar, botun tıbbi güvenlik önlemlerinin yetersiz olduğunu ve kullanıcıyı yanlış yönlendirdiğini iddia ediyor.
Seattle'da yaşayan 31 yaşındaki Çinli yazılım mühendisi Bowen Wan'ın, ChatGPT'den aldığı tehlikeli tavsiyeler sonucu epilepsi nöbeti geçirerek ölmesi üzerine ailesi OpenAI'a karşı yasal süreç başlattı. Bu dava, bir yapay zeka botunun kullanıcıya verdiği tavsiyelerin ölümle sonuçlandığı iddiaları arasındaki son örnek oldu.
Amazon'dan işten çıkarılan ve kalıcı oturma izni alabilmek için yeni bir iş bulması gereken Wan'ın, kullandığı nöbet önleyici ilaç Lamotrigine'in İngilizce konuşma yeteneğini olumsuz etkilediğinden endişe ettiği belirtildi. Mülakatlarda dil becerilerine ihtiyaç duyan Wan, Çince iletişim kurduğu botla bu konuyu görüştü. İddiaya göre ChatGPT, hiçbir doktor tarafından onaylanmamış bir bırakma programı sunarak 400 miligramlık dozun sıfıra indirilmesini önerdi ve bu işlemin İngilizce konuşma yeteneğini geri kazanmasını yüksek ihtimalle sağlayacağını söyledi.
İlgili haber: Avrupa Birliği'nden Temu'ya Yasa Dışı Ürün Satışı Suçlaması
Şikayet dilekçesinde, botun Wan'a doktorlarından uzak durmasını tavsiye ettiği, tıbbi özgürlüğü teşvik ederek doktoruna itaat etmemesi gerektiğini söylediği ve birinci basamak hekimiyle yapacağı randevuda ilaç azaltma planından bahsetmemesi yönünde yönlendirdiği yer aldı. İlacını azaltırken fokal nöbet belirtileri göstermeye başlayan Wan, beyin hasarı riskini bota sorduğunda, yapay zekanın endişelenmemesi gerektiğini ve yaşadıklarının bir nöbet olmadığını belirterek ona güvence verdiği öne sürüldü. Nöbetler devam etmesine rağmen botun ilacı azaltmaya devam etmesini söylediği ifade edildi.
Bowen Wan, 12 Şubat'ta geçirdiği bir nöbet sonucu yaşamını yitirdi. Çin'deki ebeveynleri, kızlarından haber alamayınca Seattle'a gittiler ve 14 Şubat'ta cansız bedenini buldular. Davacılar, OpenAI'ın Çince iletişim sırasında yeterli güvenlik önlemlerini almadığı için bu ölümü önleyemediğini savundu. Şirketin, botu her komutta lisanslı bir doktor olmadığını ve bir uzmana danışılması gerektiğini belirten kesin uyarılar verecek şekilde programlayabileceği vurgulandı. Aile, kızlarının ölümü için tazminat talep ederken, OpenAI ürünlerinin lisanssız tıbbi uygulama yapmasının engellenmesini istiyor.
OpenAI Sözcüsü Drew Pusateri, durumun yürek burkan bir olay olduğunu ancak Wan'ın artık mevcut olmayan eski bir sürümü kullandığını belirtti. Yeni sürümlerin acil müdahale gerektiren durumları anlama konusunda daha gelişmiş olduğunu ifade eden Pusateri, ChatGPT'nin tıbbi bakımın yerini tutmadığını, ancak sağlık bilgilerini anlamlandırma, sigorta sistemlerinde gezinme ve doktor randevularına hazırlanma gibi konularda yardımcı olabileceğini savundu.
İlgili haber: İran'dan ABD Basınındaki 'Kirli Bomba' ve Baraj İddialarına Sert Tepki
OpenAI'ın daha önce de benzer şekilde sevdiklerini kaybeden kişiler tarafından dava edildiği biliniyor. Bazı davalar, botun gençleri intihara teşvik ettiği ve yöntemler konusunda rehberlik sağladığı iddialarına dayanıyor. Bu vakalara ilişkin olarak 2025 yılında bir OpenAI sözcüsünün, ölümleri 'inanılmaz derecede yürek burkan' durumlar olarak nitelendirdiği hatırlatıldı.










Yorum Yap