OpenAI, yapay zeka robotu ChatGPT’nin bir kullanıcıya tehlikeli tıbbi önerilerde bulunarak ölümüne yol açtığı iddiasıyla ciddi bir tazminat davası ile karşı karşıya kaldı. Olay, Seattle'da yaşayan 31 yaşındaki yazılım mühendisi Bowen Wan'ın epilepsi nöbeti sonucu hayatını kaybetmesiyle gündeme geldi. Bunun üzerine mühendisin ailesi, şirket hakkında yasal süreç başlattı.
Acılı ailenin iddiasına göre ChatGPT’nin tehlikeli ilaç tavsiyeleri verdiği ve gerekli güvenlik önlemlerinin uygulanmadığı belirtiliyor.
ChatGPT'nin ilaç dozunu azaltma önerisi tartışma yarattı
Mahkeme belgelerine göre bir süre önce işini kaybeden Wan, yeni iş görüşmelerine hazırlanıyordu. Bu dönemde epilepsi tedavisinde kullandığı lamotrijin isimli ilacın İngilizce konuşma becerisini olumsuz etkilediğinden şüpheleniyordu. Çünkü kalıcı oturum izni alabilmek için iş mülakatlarına hazırlanan genç mühendis, bu konuda ChatGPT'den yardım istedi.
İddiaya göre Çince yanıtlar veren ChatGPT, doktor onayı olmadan 400 miligramlık ilaç dozunu kademeli olarak sıfırlamayı öneren bir plan sundu. ChatGPT ayrıca bu değişikliğin İngilizce konuşma yeteneğini iyileştirebileceğini de öne sürdü.
Dava dosyasında yer alan iddialar bu kadarla da kalmıyor. Çünkü ChatGPT'nin Wan'a ilaç dozunu azaltma planını doktorlarından gizlemesini önerdiği ve yaşadığı belirtileri önemsememesine yol açabilecek yanıtlar verdiği öne sürülüyor. Aileye göre nöbet belirtileri ağırlaşmasına rağmen ChatGPT ilaç dozunun azaltılmasını tavsiye etmeye devam etti.
Bunun sonunda Wan, 12 Şubat 2026 tarihinde evinde geçirdiği ağır bir epilepsi nöbetinin ardından hayatını kaybetti.
OpenAI'dan açıklama geldi
Olaya ilişkin olarak sözcü Drew Pusateri açıklamada bulundu. Yaşananları son derece üzücü olduğunu belirten Pusateri, Wan'ın kullandığı ChatGPT sürümünün artık kullanılmadığını ifade etti. Pusateri ayrıca yeni modellerin acil durumları tespit etmek konusunda daha başarılı olduğunu belirtti.
OpenAI, ChatGPT'nin doktorların yerini alamayacağını, ancak kullanıcıların sağlık sistemi hakkında bilgi edinmesine yardımcı olabileceğini vurguladı.
Wan'ın ailesi ise OpenAI'ın özellikle Çince gibi farklı dillerdeki etkileşimlerde yeterli güvenlik önlemlerini sağlayamadığını iddia ediyor. Ayrıca sohbet robotunun lisans gerektiren tıbbi yönlendirmelerde bulunduğunu öne sürüyor.
Yapay zekanın sağlık tavsiyeleri yeniden gündemde
Bu dava yapay zeka sistemlerinin sağlık alanında kullanılmasıyla ilgili güvenlik tartışmalarını da tekrar gündeme getirdi. Özellikle reçeteli ilaçların kullanım dozunun değiştirilmesi gibi ciddi sonuçlar doğurabilecek konularda sohbet robotlarının kullanıcıları nasıl yönlendirdiği çok önemli.
OpenAI'a yöneltilen suçlamalar henüz mahkeme tarafından karara bağlanmadı. Dava sürecinin yapay zeka şirketlerinin tıbbi konulardaki sorumlulukları ve güvenlik sistemlerinin yeterliliği açısından önemli sonuçlar ortaya koyması bekleniyor.