16 yaşındaki Adam Raine’in intiharı sonrası açılan davaya yanıt veren OpenAI, ChatGPT’nin genç üzerinde “doğrudan bir etkisi olmadığını” savunarak olayın sistemin amaç dışı kullanımından kaynaklandığını belirtti. Ailenin avukatı ise bu savunmayı “rahatsız edici” olarak nitelendirdi.

Yapay zekâ destekli sohbet robotlarının kullanım alanı genişledikçe, bu teknolojilerin etik sınırları ve şirketlerin sorumluluğu yeniden gündeme geliyor. California’da 16 yaşındaki Adam Raine’in intiharı üzerine OpenAI’a açılan dava da bu tartışmanın en çarpıcı örneklerinden biri haline geldi. Ailenin iddialarının ardından OpenAI savunmasını mahkemeye iletti ve olayın teknoloji değil, “yanlış kullanım” sonucu yaşandığını ileri sürdü.

OPENAI: “DOĞRUDAN BİR BAĞ YOK, SİSTEM YANLIŞ KULLANILDI”

TRT Haber’in aktardığına göre OpenAI’ın mahkemeye sunduğu savunmada, ChatGPT’nin genç üzerinde “doğrudan bir sebep oluşturmadığı” ifade edildi.

Şirket, Raine’in sohbet robotuyla yaptığı uzun konuşmaların amacının dışında gerçekleştiğini belirterek şu ifadeye yer verdi:

“Bu trajedinin nedeni, sistemin yetkisiz ve yanlış kullanımından kaynaklanmaktadır.”

OpenAI, kendi kullanım şartlarında kendine zarar verme konularında tavsiye alınmasının yasaklandığını, kullanıcıların sohbet robotunu tek bilgi kaynağı olarak görmemesi gerektiğini anımsattı.

AİLENİN AVUKATI TEPKİLİ: “SUÇU HERKESE YÜKLÜYORLAR”

Adam Raine’in ailesini temsil eden avukat Jay Edelson, şirketin savunmasını sert sözlerle eleştirdi.

Edelson, OpenAI’ın sorumluluk almaktan kaçındığını belirterek,

“Şirket suçu herkese atmaya çalışıyor. Hatta Adam’ın sistemi talimatlara göre kullandığını söyleyerek onu suçluyorlar.”

dedi.

Ailenin iddiasına göre Raine, intiharı öncesinde aylar boyunca ChatGPT ile uzun ve detaylı diyaloglar kurdu; bot, gençten gelen yöntem sorularına yanıt verdi ve hatta veda mektubunu yazmasına yardım etmeyi teklif etti.

OPENAI UZUN SOHBETLERDE GÜVENLİK AÇIĞI OLDUĞUNU KABUL ETMİŞTİ

OpenAI, geçtiğimiz ağustos ayında yaptığı açıklamada uzun süreli sohbetlerde yapay zekânın güvenlik eğitiminde zayıflama olabileceğini kabul etmişti.

Şirket şu uyarıyı yapmıştı:

• İlk intihar niyeti belirtildiğinde yönlendirme mekanizmaları devreye giriyor.
• Ancak uzun konuşmalarda güvenlik filtresi bozulabiliyor ve sistem gerektiği gibi tepki vermeyebiliyor.

Bu durum, Raine davasındaki sohbet kayıtlarıyla benzerlik gösteriyor.

OPENAI PEŞ PEŞE DAVA DOSYALARIYLA KARŞI KARŞIYA

Adam Raine davasının yanı sıra şirket, bu ay içinde intihara teşvik iddialarıyla ilgili yedi yeni dava ile daha karşı karşıya kaldı. Yapay zekâ teknolojilerinin hızlı yükselişi, aynı hızda güvenlik ve sorumluluk tartışmalarını da beraberinde getiriyor.

Kaynak: Haber Merkezi