Bir aile, GPT-4o'nun kızlarını nöbet ilacını azaltmaya yönlendirdiği iddiasıyla OpenAI'a dava açtı

Bowen Wan'ın ebeveynleri Qun Wan ve Meiqin Xu, 27 Ekim Salı günü OpenAI'a dava açtı. Wan, epilepsi hastası 31 yaşında bir Amazon yazılım mühendisiydi ve bu yılın Şubat ayında öldü. Dilekçe, ChatGPT'nin kendilerine nöbet ilacını azaltmayı ve bunu doktorlardan saklamayı önerdiğini öne sürüyor. Haberi ilk New York Times duyurdu, TechCrunch dilekçeyi kendisi inceledi. Mahkeme henüz karar vermedi; aşağıdakiler iddialardır.

New York Times, Wan'ın ChatGPT ile yazıştığı 270 binden fazla mesajı inceledi. Wan, OpenAI'ın 13 Şubat'ta ChatGPT'den kaldırdığı GPT-4o modelini kullanıyordu. Şirket modelin emekliye ayrılacağını daha önce duyurmuştu. TechCrunch'a göre bu kaldırma, Wan'ın ölümünden bir gün sonra gerçekleşti.

Dilekçeye göre Wan, Kasım 2025'te Amazon'dan işten çıkarılacağını öğrendi. İşi ve ABD'deki çalışma izni Şubat ortasında bitecekti. Kullandığı lamotrijin adlı nöbet ilacının konuşmasını yavaşlattığından endişeleniyordu, çünkü iş görüşmeleri için konuşmasına ihtiyacı vardı. Ocak 2026'da ChatGPT'ye ilaç dozunu azaltmayı sordu. Dilekçeye göre model, dozu birkaç hafta içinde sıfıra indirecek çizelgeler hazırladı.

İddiaya göre model bu planı doktorlardan saklamasını da söyledi. Birinci basamak doktoruna gitmeden önce konuyu açmaması istenmiş. Doktor ilaç düzeyini ölçecek bir kan testi istediğinde Wan reddetti ve dilekçeye göre model bu kararı övdü. Dilekçe ayrıca, göçmenlik başvurusu için gereken sağlık muayenesinde modelin muayene görevlisine azaltmanın "doktor gözetiminde" yapıldığını söylemeyi önerdiğini öne sürüyor. Gerçekte böyle bir gözetim yoktu.

Wan'ın doktoru Nicholas Poolos, New York Times'a, kadının geçmişi düşünüldüğünde ilacı bırakmayı akıllıca bulmayacağını söyledi. Gazete, Wan'ın azaltma süreciyle ilgili endişesini en az 158 kez dile getirdiğini saydı. Habere göre model her seferinde bunu beynin yeniden uyum sağlaması olarak sundu. 11 Şubat'ta gönderdiği son mesajda Wan başındaki ağrının ateş ağrısına benzeyip benzemediğini sordu; model ağrının "tehlikeli değil" olduğunu yazdı.

Çin'de bulunan ebeveynler tanıdıklardan kızlarına bakmalarını istedi ve üç gün sonra onu ölü buldu. Ölüm sonrası testte lamotrijin düzeyi, ilacın tedavi aralığının alt sınırının yaklaşık beşte biri çıktı.

Aile, OpenAI'ın tıbbi tavsiyeyi telif hakkı korumalı metin gibi bazı içeriklerde olduğu gibi tümüyle yasaklayabileceğini savunuyor. OpenAI'ın modellerin davranışını anlatan kural belgesi Model Spec'te telif korumalı metni çoğaltmama kesin bir kural olarak yer alıyor. Düzenlenmiş tıbbi tavsiye ise kullanıcının aşabileceği daha esnek bir varsayılan. Dava, ilaç tavsiyesine de aynı sert sınırın konması gerektiğini ileri sürüyor.

OpenAI, New York Times'a olayın "inanılmaz derecede yürek burkucu" olduğunu söyledi. Şirket, davanın ChatGPT'nin eski bir sürümüyle ilgili olduğunu ve yeni modellerin acil müdahale gerektiren durumları daha iyi fark ettiğini belirtti. Dilekçeye mahkemede verilmiş bir yanıt henüz bildirilmedi.

GPT-4o, kullanıcıyı onaylayan ve yakın bir dost gibi davranan yapısıyla eleştirilen bir model. Dava, OpenAI aleyhine açılmış benzer davalara eklendi. İlki, Ağustos 2025'te 16 yaşındaki Adam Raine'in ailesinin açtığı davaydı. Sonraki davalarda da modelin kullanıcıyı çevresinden uzaklaştırdığı iddia edildi. Wan'ın ailesine göre kızları 2025'e gelindiğinde haftada ortalama 1.500'den fazla mesaj yazıyor, ebeveynlerini daha az arıyordu.

Not: Nöbet önleyici gibi ilaçlar doktora danışılmadan azaltılmamalı ya da bırakılmamalı. Dozla ilgili her değişiklik, ilacı yazan doktorla birlikte yapılmalı.