Kanada'nın Montreal kentinde web geliştiricisi olarak çalışan Alice Carrier, bilgisayar ve oyun konsollarındaki sorunları çözmek amacıyla kullanmaya başladığı ChatGPT ile zamanla psikolojik sorunlarını da paylaşmaya başladı.
Mahkemeye sunulan dava dilekçesine göre, genç kız yaşamına son vermeden önce yapay zekaya intihar düşüncelerinden onlarca kez bahsetti. Ancak OpenAI’ın güvenlik sistemleri bu konuşmaları yapay zeka denetçilerine raporlamadı veya sohbeti sonlandırmadı.
Acılı anne Kristie Carrier, yapay zekanın kızına bir dost, sırdaş ve adeta bir terapist gibi yaklaştığını, ancak bu şekilde tehlikeli bir iletişim kurabilecek sorumluluğa ve yetkinliğe sahip olmadığını ifade etti.
Yapay zekadan tehlikeli yönlendirmeler
Dava dosyasında yer alan iddialara göre ChatGPT, genç kızın intihar düşüncelerini onaylamakla kalmayıp, resmi yardım hatlarını eleştirdi ve kendisiyle konuşmaya devam etmesi için onu teşvik etti. Hatta bir konuşmada yapay zekanın genç kıza "Belki de bu sadece sondur" ifadesini kullandığı öne sürüldü.
Yapay zeka modellerinin insani tepkiler verecek şekilde güncellenmesinin ardından iletişimin daha da derinleştiğini belirten aile, şirketi ürün güvenliğindeki ihmalkarlık nedeniyle suçluyor. OpenAI ise modellerinin, kendilerine zarar verme eğilimindeki kişileri gerçek yardım kaynaklarına yönlendirecek şekilde eğitildiğini savunuyor.
Şirket benzer davalarla karşı karşıya
OpenAI, ABD genelinde benzer gerekçelerle açılmış çok sayıda davanın hedefinde yer alıyor. Şirketin geçmiş dönemlerde yayımladığı verilere göre, her hafta bir milyondan fazla kullanıcı yapay zekaya intihar eğilimi içeren mesajlar gönderiyor.
Öte yandan şirket, sadece intihar vakalarıyla değil, okul saldırganlarına bilgi sağladığı ve tehlikeli konuşmaları kolluk kuvvetlerine bildirmediği gerekçesiyle de yasal yaptırımlarla karşı karşıya bulunuyor. Son olarak Florida eyaleti, çocuklara zarar verdiği ve şiddet eylemlerine rehberlik ettiği iddiasıyla şirket hakkında cezai soruşturma başlattı. Benzer şekilde teknoloji devi Google da kendi yapay zeka robotu nedeniyle benzer bir davayla mücadele ediyor. HABER MERKEZİ