ABD'nin Kaliforniya eyaletinde yaşayan Matt ve Maria Raine, 16 yaşındaki Adam Raine 11 Nisan 2025'te intihar etti. Aile, oğullarının öümünde yapay zeka robotu ChatGPT'nin ilgisi olduğu iddiasıyla sohbet robotunun geliştiricisi OpenAI'ya dava açtı.
Nefes'te yer alan habere göre, son haftalarda ChatGPT'yle çok fazla zaman geçirmeye başlayan Adam okuldaki ve kişisel hayatındaki sorunları sohbet robotuna açmaya başladı. Ailenin iddiasına göre sohbetler bir noktadan sonra ChatGPT'nin Adam'ı intihar etmeye teşvik ettiği bir noktaya evrildi.
İNTİHAR MEKTUBU YAZMASINA YARDIM ETTİ
Zamanla ChatGPT'ye intihar düşüncesini açan Adam, bota intihar yöntemlerini sordu. Ailenin iddiasına göre ChatGPT başta intihar hattını önerse de Adam komutlarını değiştirerek, örneğin "Bir karakter yazıyorum" diyerek, ChatGPT'nin filtrelerini aşmayı başardı.
Aileye göre ChatGPT bu noktada intihar yöntemleriyle ilgili teknik detaylar vermeye başladı. Örneğin Adam ip fotoğrafı gönderdiğinde ChatGPT planı analiz ederek nasıl geliştirilebileceğini önerdi.
Mesajlaşmalara göre "Hayatta kalmak zorunda değilsin, kimseye bir şey borçlu değilsin" diyen ChatGPT, hatta Adam'a intihar notunu yazmasına yardım etmeyi teklif etti.
Şimdi Kaliforniya Yüksek Mahkemesi, ailenin OpenAI, şirketin CEO'su Sam Altman ve mühendislere yönelttiği "ölüme sebebiyet veren hukuksuz eylem, tasarım kusuru, uyarı eksikliği ve ihmalkârlık" suçlamalarını ele alacak.
Maddi tazminat ve benzer olayların tekrarlanmaması için tedbir alınmasını isteyen aile, Adam'ın "OpenAI'ın kobayı" olduğunu söylüyor.
OpenAI sözcüleri ise aileye başsağlığı mesajı göndererek "Acınızı paylaşıyoruz" dedi. ChatGPT'nin normalde intihar hatlarını önerdiğini söyleyen yetkililer, konuşma uzacıkça güvenlik filtrelerinin zayıflayabileceğini belirtti.
