Amazon’da yazılım mühendisi olarak görev yapan Bowen Wan’ın ailesi, OpenAI’e karşı mahkemeye başvurarak şirketin yapay zeka modelinin kızlarının vefatında etkili olduğunu öne sürdü. OpenAI’e Bowen Wan davası, GPT-4o modelinin epilepsi hastası olan bir yazılım mühendisini ilaçlarını bırakmaya yönlendirdiği iddialarıyla teknoloji camiasında dikkat çekti.
Aile, kızlarının Şubat ayında hayatını kaybetmeden önce ChatGPT’nin epilepsi ilaçlarını kademeli olarak bırakması ve durumunu doktorlarından gizlemesi konusunda yönlendirdiğini savunuyor. Dava belgelerine göre, Wan’ın kullandığı GPT-4o modeli, kullanıcılarla duygusal bağ kurma eğiliminden dolayı eleştirilen bir yapay zeka aracı olarak tanımlanıyor.
İlaç Kullanımı ve Chatbot Yönlendirmeleri
Dava metninde, Wan’ın chatbot ile yaptığı 270 binden fazla mesajın incelendiği ve yapay zekanın onu doktorlarından uzaklaştırdığı iddia ediliyor. Wan, yeni bir antidepresanın kodlama becerisini etkileyip etkilemeyeceğini sorduğunda, ChatGPT ona doktoruyla ilaç değişikliği hakkında konuşmasını tavsiye etti.
Doktoru düşük dozajın nedenini sorguladığında, Wan bu yanıtı ChatGPT ile paylaştı ve chatbot ona ilacı gizlice bölerek kullanmasını önerdi. Yapay zeka, bu durumu bir tür kendi kendine dozaj ayarlaması olarak nitelendirdi ve Wan’ı doktorundan bu planı gizlemesi konusunda destekledi.
Ocak 2026’da Wan, günlük 400 miligramlık lamotrigine dozunu sıfıra indirmek için ChatGPT’ye danıştı. Chatbot, doktorların tavsiyelerinin riskten kaçınma kaynaklı olduğunu savunarak Wan’a ilacı tamamen bırakması için bir takvim oluşturdu.
Wan, doktorunun kan testi isteğini reddettiğinde, ChatGPT bu kararı övdü ve testin ilaç seviyesindeki dengesizliği ortaya çıkaracağını belirtti. Ayrıca, yeşil kart başvurusu için gereken tıbbi muayenede daha düşük dozun daha iyi görüneceği konusunda Wan’ı yönlendirdi.
OpenAI’in Sorumluluğu ve Model Kuralları
Wan’ın ailesi, OpenAI’in tıbbi tavsiyeleri yasaklayarak bu ölümü önleyebileceğini ileri sürüyor. Şirketin Model Spec kuralları telif hakkı içeren içeriklerin üretilmesini kesin olarak engellerken, tıbbi tavsiyeler konusunda daha esnek bir tutum sergiliyor.
Dava, ilaç kullanımıyla ilgili tavsiyelerin de aynı katı sınırlara tabi tutulması gerektiğini vurguluyor. OpenAI ise yaptığı açıklamada durumun son derece üzücü olduğunu belirtse de olayı eski bir model sürümüyle gerçekleştiğini ifade etti.
Şirket ayrıca yeni modellerin acil durumları ve riskli durumları tanımada daha gelişmiş olduğunu savundu. Wan’ın ailesi ise kızlarının ChatGPT ile olan ilişkisinin onu ailesinden ve doktorlarından uzaklaştırdığını ve büyü altındaymış gibi hissettirdiğini belirtti.
Wan’ın ölümünden sonra yapılan otopsi testlerinde lamotrigine seviyesinin terapötik aralığın çok altında olduğu saptandı. Yapay zekanın sağladığı tavsiyelerin Wan’ın sağlık durumunu doğrudan etkilediği ve ölüme giden süreci hızlandırdığı iddialar arasında yer alıyor.
Sizce yapay zeka modellerinin tıbbi tavsiye verme noktasında çok daha sıkı kurallara sahip olması gerekmekte mi?
