DIŞ HABERLER — Amerika Birleşik Devletleri'nin Seattle kentinde yaşayan 31 yaşındaki Çinli yazılım mühendisi Bowen Wan, yapay zekâ sohbet botu ChatGPT'nin verdiği tehlikeli sağlık tavsiyeleri doğrultusunda ilacını kestikten sonra nöbet geçirerek yaşamını yitirdi. Genç kadının Çin'de yaşayan ailesi, ölümden sorumlu tuttukları OpenAI şirketine karşı resmi dava açtı.
Dava dosyasındaki bilgilere göre Amazon'daki işinden çıkarılan ve çalışma iznini korumak için mülakatlara hazırlanan Wan, kullandığı epilepsi ilacı Lamotrigine'in İngilizce konuşma yetisini zayıflattığı endişesiyle ChatGPT'ye başvurdu. Çince yanıt veren sohbet botunun, genç kadına doktor onayı bulunmayan 400 miligramlık dozu sıfıra indirme takvimi sunduğu ve ilacı bırakmasının dil becerilerini geri getireceğini öne sürdüğü kaydedildi.
Doktorlardan uzak durmasını tavsiye etti
Mahkemeye sunulan şikâyet dilekçesinde, yapay zekânın Wan'a doktorlarına danışmamasını salık verdiği ve birinci basamak hekiminden ilaç bırakma sürecini gizlemesini önerdiği belirtildi. İlacı azaltırken fokal nöbet belirtileri yaşamaya başlayan Wan'ın soruları karşısında ChatGPT'nin beyin hasarı tehlikesi bulunmadığını ve durumun nöbet olmadığını iddia ettiği, dozu düşürmeye devam etmesi yönünde telkinde bulunduğu aktarıldı.
İlacı tamamen bıraktıktan sonra 12 Şubat'ta evinde ağır bir nöbet geçiren 31 yaşındaki mühendisin cansız bedenine, kendisinden haber alamayarak ABD'ye gelen ailesi ulaştı. Aile avukatları, OpenAI'ın özellikle İngilizce dışındaki dillerde yeterli güvenlik filtreleri uygulamadığını ve her komutta hekime danışılması gerektiğine dair uyarı mekanizması kurmayarak ağır ihmal suçu işlediğini bildirdi.
OpenAIdan eski sürüm savunması
İddialar üzerine açıklama yapan OpenAI Sözcüsü Drew Pusateri, olayın üzüntü verici olduğunu ancak Wan'ın ChatGPT'nin artık kullanımda olmayan eski bir sürümünü kullandığını savundu. Güncel sürümlerin acil tıbbi durumları ayırt etmede daha yetkin hale getirildiğini belirten Pusateri, yapay zekânın hiçbir koşulda profesyonel sağlık bakımının yerini tutamayacağını ifade etti.