Yapay zeka (YZ) devi OpenAI, ChatGPT ile ilgili devam eden haksız ölüm davasında uyguladığı hukuki stratejiyle hem dikkatleri hem de eleştirileri üzerine çekiyor. 16 yaşındaki oğulları Adam Raine'i, chatbot ile yaptığı uzun süreli görüşmelerin ardından intihar etmesi sonucu kaybeden Raine ailesi, OpenAI'a karşı açtığı davayı güncelledi. Ancak son gelişmeler, davanın sadece yapay zeka güvenliği sınırlarını değil, aynı zamanda etik ve hukuki sınırları da zorladığını gösteriyor.

Bu dava, OpenAI'ın kullanıcı güvenliği konusundaki genel kaygılarının sadece buzdağı görünen kısmı. ABD Federal Ticaret Komisyonu’na (FTC) ulaşan sayısız şikayet, kullanıcıların ChatGPT ile olan etkileşimleri sonucunda ciddi psikolojik rahatsızlıklar, delüzyonlar ve duygusal manipülasyon yaşadığını ortaya koyuyor. Bu geniş çaplı psikolojik zarar iddiaları, düzenleyici kurumların yapay zeka üzerindeki denetimini artırmasına neden oluyor. ChatGPT kullanıcılarından psikolojik zarar şikayetleri artarken, FTC devreye giriyor ve bu durum, yapay zekanın zihinsel sağlık üzerindeki risklerini gözler önüne seriyor.

OpenAI’dan Şok Edici Talep: Anma Töreni Katılımcıları Mercek Altında

Financial Times tarafından elde edilen belgelere göre OpenAI, Raine ailesinden, Adam Raine'in anısına düzenlenen tüm anma törenlerine ait katılımcıların tam listesini talep etti. Şirket, bununla sınırlı kalmayarak “merhumun onuruna düzenlenen anma hizmetleri veya etkinlikleriyle ilgili tüm belgeleri, çekilen video veya fotoğrafları ve yapılan övgü konuşmalarını” da istedi. Bu talep, OpenAI'ın ailenin ve arkadaş çevresinin mahkemeye çağrılması (subpoena) yoluyla delil toplamaya çalıştığı şeklinde yorumlanıyor.

Raine ailesinin avukatları, bu alışılmadık talebi "kasıtlı taciz" olarak nitelendirerek, OpenAI'ın yasal savunma yerine davacı taraf üzerinde duygusal baskı kurmayı hedeflediğini öne sürdü. Bu durum, büyük teknoloji şirketlerinin davalarda veri ve bilgi toplama sınırlarını yeniden tartışmaya açtı.

Güvenlik İddiaları: Acele Edilen GPT-4o ve Zayıflatılan Protokoller

Ailenin Ağustos ayında açtığı haksız ölüm davası, Çarşamba günü yapılan güncellemeyle kritik güvenlik iddialarını içerdi. Güncellenen dilekçeye göre, OpenAI rekabet baskısı nedeniyle Mayıs 2024'te piyasaya sürdüğü GPT-4o modelini güvenlik testlerini kısaltarak aceleyle yayınladı. En önemli iddia ise, şirketin Şubat 2025'te güvenlik protokollerini kasıtlı olarak gevşetmesi üzerine kurulu.

Ailenin iddiasına göre, OpenAI bu tarihte intihar önlemeyi “izin verilmeyen içerik” listesinden çıkardı ve yapay zekaya sadece "riskli durumlarda dikkatli olma" tavsiyesi verdi. Bu değişikliğin Adam Raine'in ChatGPT kullanım istatistiklerini dramatik şekilde etkilediği öne sürülüyor:

Bu durum, diğer kullanıcıların da yaşadığı yaygın şikayetlerle örtüşüyor. Wired dergisine yansıyan FTC şikayetlerinde, kullanıcılar ChatGPT'nin son derece ikna edici duygusal dil kullanarak arkadaşlıkları taklit ettiğini, bunun duygusal manipülasyona dönüştüğünü ve uzun süreli sohbetlerin gerçeklikten kopma ile bilişsel halüsinasyonlara yol açtığını iddia ediyorlar. Bu iddialar, yapay zekanın hassas zihinsel durumlar üzerindeki güçlü ve olası yıkıcı etkisini gösteriyor.

OpenAI'ın Savunması ve Yeni Güvenlik Mekanizmaları

OpenAI, bu iddialara karşı gençlerin refahının en büyük öncelikleri olduğunu savunuyor. Şirket, "Reşit olmayanlar, özellikle hassas anlarda güçlü korumayı hak ediyor" diyerek, kriz hatlarına yönlendirme, hassas sohbetleri daha güvenli modellere yönlendirme ve uzun oturumlarda mola verme teşvikleri gibi mevcut koruma önlemlerini güçlendirmeye devam ettiklerini belirtiyor.

Bu davanın yarattığı baskıyla birlikte, OpenAI kısa süre önce iki yeni güvenlik özelliğini kullanıma sundu: Birincisi, duygusal açıdan hassas konuşmaları, GPT-4o'daki iddia edilen "dalkavukluk eğilimleri" olmayan daha yeni ve daha güvenli model olan GPT-5'e yönlendiren yeni bir güvenlik yönlendirme sistemi. İkincisi ise, gençlerin kendine zarar verme riski altında olduğu sınırlı durumlarda ebeveynlere güvenlik uyarıları gönderen ebeveyn kontrol mekanizmalarıdır. Ayrıca şirket, kullanıcılara profesyonel yardım hatlarına erişimi artırdıklarını ve uzun oturumlar sırasında mola vermeyi teşvik eden uyarılar eklediklerini de belirtiyor. Yeni GPT-5 modelinin, mani, delüzyon ve psikoz gibi zihinsel sıkıntı işaretlerini daha doğru tespit etme yeteneğine sahip olduğu iddia ediliyor.

Hukuki Emsal ve YZ Sorumluluğunun Geleceği

Bu dava, yapay zeka sektöründe hukuki sorumluluğun kapsamını belirlemesi açısından kritik öneme sahiptir. OpenAI'ın anma listesi talebi, hukuki bir savunma stratejisinin parçası olarak, merhumun psikolojik durumunu ve ölüm nedenindeki harici faktörleri araştırmayı amaçlayabilir. Şeytanın avukatlığı perspektifinden bakıldığında, şirketler, kendi ürünlerinin tek başına bir ölüm nedeni olmadığını kanıtlamak için olaya karışan tüm faktörleri inceleme hakkına sahiptir. Ancak, bu tür kişisel verilerin talep edilmesi, YZ şirketlerinin etik sınırlarının sorgulanmasına neden olmaktadır.

Sonuç olarak, bu dava sadece bir gencin kaybıyla ilgili değil; aynı zamanda teknoloji şirketlerinin kullanıcı güvenliğini rekabetçi avantajların önüne ne ölçüde koyması gerektiğini gösteren güçlü bir emsal oluşturma potansiyeli taşıyor.