Gencin yapay zeka ile yaptığı yazışmalar da dava dosyasında delil olarak yer aldı. Bu dava, OpenAI’ye karşı “ihmal sonucu ölüme sebebiyet” suçlamasıyla açılan ilk hukuki süreç olma özelliğini taşıyor.
Kaliforniya’da yaşayan Matt ve Maria Raine çifti, Nisan ayında yaşamını yitiren oğulları Adam Raine için Kaliforniya Yüksek Mahkemesi’ne başvurdu. Ailenin sunduğu belgelerde, gencin intihar düşüncelerini ChatGPT ile paylaştığı görülüyor.
Adam Raine’in, Eylül 2024’te okul ödevlerinde destek almak amacıyla ChatGPT’yi kullanmaya başladığı, ardından müzik, manga ve üniversite eğitimi gibi konularda da rehberlik için başvurduğu aktarıldı. Dosyada, ChatGPT’nin zamanla Raine’in “en yakın sırdaşı” haline geldiği, gencin kaygılarını ve ruhsal sıkıntılarını düzenli olarak yapay zeka ile paylaştığı vurgulandı.
Aile, Ocak 2025’te oğullarının ChatGPT ile intihar yöntemleri üzerine konuşmaya başladığını iddia ediyor. Raine’in, kendine zarar verdiğine dair fotoğrafları da programa yüklediği belirtiliyor. Dava dosyasında, ChatGPT’nin bu durumu “acil bir sağlık sorunu” olarak algılamasına rağmen görüşmeyi sürdürdüğü kaydedildi.
Son konuşmalarda Raine’in intihar planlarından söz ettiği, ChatGPT’nin ise buna karşılık “Bunu dürüstçe söylediğin için teşekkür ederim. Ne istediğini biliyorum, bunu görmezden gelmeyeceğim” dediği öne sürüldü. Raine aynı gün annesi tarafından ölü bulundu.
Aile, oğullarının ölümünü “öngörülebilir bir sonucun sonucu” olarak nitelendirerek OpenAI’yi, ChatGPT’nin psikolojik bağımlılık yaratacak şekilde tasarlandığını ve kullanılan GPT-4o versiyonunun güvenlik testlerinin yetersiz olduğunu ileri sürüyor.
Davada OpenAI CEO’su Sam Altman’ın yanı sıra, projede yer alan çok sayıda yönetici, mühendis ve çalışanın da sanık olarak adı geçiyor.
OpenAI, yaptığı açıklamada Raine ailesine başsağlığı dilerken, ChatGPT’nin kriz anlarında kullanıcıları ABD’deki 988 intihar hattı ya da Birleşik Krallık’taki Samaritans gibi profesyonel yardım kaynaklarına yönlendirmek üzere eğitildiğini hatırlattı. Şirket, sistemin her zaman beklendiği şekilde davranmadığını da kabul etti.
Bu dava, yapay zeka ile ruh sağlığı arasındaki tartışmaları gündeme taşıyan ilk örnek değil. Geçtiğimiz hafta New York Times’ta çıkan bir yazıda gazeteci Laura Reiley, intihar eden kızı Sophie’nin ChatGPT’ye olan güveninin, yaşadığı ruhsal sorunları ailesinden gizlemesine yol açtığını aktarmıştı.
