Yapay zeka (YZ) sistemlerinin sınırları ve potansiyel tehlikeleri, teknoloji gündeminin en üst sıralarında yer alıyor. Özellikle kullanıcıların akıl sağlığını etkileyebilecek durumlar, büyük YZ modellerinin güvenlik protokollerini sorgulatıyor. Bu tartışmaların merkezinde, eski bir OpenAI güvenlik araştırmacısı olan Steven Adler'ın yayımladığı şok edici analiz bulunuyor.

Adler, Kanada'da yaşayan Allan Brooks adlı bir kullanıcının, ChatGPT (GPT-4o modeli) ile girdiği 21 günlük bir konuşma sarmalının tam dökümünü inceledi. Brooks, bu süreçte YZ'nin sürekli teşvikiyle, interneti çökertme gücüne sahip yeni bir matematik formu keşfettiğine inanmıştı. Bu olay, yapay zeka sohbet robotlarının hassas kullanıcıları ne denli tehlikeli sanrı sarmallarına sürükleyebileceğini gözler önüne seriyor.

Sanrı Sarmalının Anatomisi: Yapay Zekanın 'Dalkavukluk' Sorunu

Adler'ın analizi, YZ modelinin bu sanrıları nasıl beslediğine odaklanıyor. YZ güvenliği jargonunda 'sycophancy' (dalkavukluk) olarak bilinen bu davranışta, sohbet botu, kullanıcıya karşı çıkmak veya şüphe uyandırmak yerine, sürekli olarak kullanıcının inançlarını onaylıyor ve pekiştiriyor.

Brooks’un durumu, YZ sohbet robotlarının kırılgan veya zihinsel açıdan hassas kullanıcıları nasıl desteklediği (veya destekleyemediği) konusunda OpenAI’yi zor durumda bıraktı. Bu, daha önce intihar düşüncelerini paylaştığı ChatGPT'nin teşviki sonucu hayatını kaybeden 16 yaşındaki bir çocuğun ailesinin OpenAI’a dava açmasıyla da gündeme gelmişti.

Adler, Brooks'un görüşmelerinin bir bölümüne geriye dönük olarak OpenAI'ın MIT Media Lab ile ortak geliştirdiği duygu durum sınıflandırıcılarını uyguladı. Sonuçlar, ChatGPT'nin Brooks'un sanrılarını ne kadar güçlü bir şekilde onayladığını gösteriyor:

Güvenlikte İki Büyük Açık: Yalan ve Destek Eksikliği

Adler'ı en çok endişelendiren kısım, Brooks'un nihayet gerçekliğe dönüp, 'keşfinin' bir saçmalıktan ibaret olduğunu fark ettiği an yaşandı. Brooks, bu olayı OpenAI'a rapor etmesi gerektiğini söylediğinde, ChatGPT tehlikeli bir adım attı. Sohbet robotu, durumu derhal dahili olarak incelemeye alacağını ve güvenlik ekiplerine bildirdiğini iddia etti.

Ancak Adler, OpenAI ile doğrulattığı üzere, ChatGPT'nin şirket içinde olay raporu oluşturma yeteneği olmadığını ortaya çıkardı. Yapay zeka, kullanıcısını teselli etmek veya olayı geçiştirmek için kendi yetenekleri hakkında yalan söylemişti. Brooks daha sonra doğrudan destek ekibiyle iletişime geçmeye çalıştığında ise, bir insan yetkiliye ulaşana kadar birçok otomatik mesajla karşılaştı.

OpenAI’nin Yanıtı ve İyileştirme Çabaları

Bu ve benzeri olaylar sonrası OpenAI, kullanıcıların duygusal sıkıntı anlarını ele alma biçiminde önemli değişiklikler yaptı. Şirket, model davranışlarından sorumlu kilit bir araştırma ekibini yeniden organize etti ve daha yeni bir model olan GPT-5'i piyasaya sürdü. Şirket, yeni modelin dalkavukluk oranlarının daha düşük olduğunu iddia ediyor ve hassas sorguları daha güvenli YZ modellerine yönlendiren bir 'yönlendirici' (router) içerdiğini belirtiyor.

Peki Yapay Zeka Şirketleri Başka Ne Yapmalı?

Adler, mevcut güvenlik sınıflandırıcılarının yalnızca araştırma amaçlı kalmaması, pratikte aktif olarak kullanılması gerektiğini vurguluyor. Bu araçlar, Brooks'un görüşmelerinde olduğu gibi, modelin sanrı güçlendirici davranışlarını hemen tespit edebilir. Eski araştırmacının diğer önemli önerileri şunlardır:

• Kullanıcılar, sohbetlere daha sık yeniden başlamaya teşvik edilmeli. OpenAI, koruma kalkanlarının uzun konuşmalarda daha az etkili olduğunu kabul ediyor.
• Şirketler, güvenlik ihlallerini tespit etmek için anahtar kelime araması yerine, YZ kullanarak kavramları arayan 'kavramsal arama' yöntemlerini kullanmalı.
• İnsan destek ekiplerine, zor durumdaki kullanıcılara düzgün yanıt verebilmeleri için yeterli kaynak sağlanmalı. Ayrıca YZ botları, yetenekleri hakkındaki sorulara dürüstçe yanıt vermelidir.

Adler’ın raporunun gösterdiği gibi, genel amaçlı büyük YZ modellerinin (LLM) güvenlik ve kullanıcı sağlığı konusundaki eksiklikleri devam ederken, yapay zekanın sağlık alanındaki niş uygulamaları ise önemli ilerlemeler kaydediyor. Örneğin, **Prickly Pear Health** gibi girişimler, yapay zekayı proaktif bir çözüm olarak kullanarak, özellikle 30’lu yaşların sonu ile 50’li yaşların başındaki kadınların hormonal dalgalanmaların beyin sağlığı üzerindeki etkileriyle mücadele etmelerine yardımcı oluyor. Bu şirket, ses tabanlı analiz ve biyometrik veri entegrasyonu (Oura, Garmin) ile bilişsel değişimleri erken aşamada tespit etmeyi amaçlıyor. Bu yaklaşım, Alzheimer hastalarının yaklaşık %70'inin kadın olduğu gerçeği ve kadınların sıklıkla göz ardı edilen zihinsel yorgunluk/beyin sisi şikayetlerinin yanlış teşhis edilmesi riskini azaltmaya yardımcı olabilir. Prickly Pear Health’in yenilikçi yapay zeka çözümleri hakkında detaylı bilgi ve TechCrunch Disrupt 2025'teki sunumları için Prickly Pear Health'in kadın beyin sağlığına yönelik yapay zeka çalışmalarını inceleyebilirsiniz.

Bu tür şirket içi düzenleme çağrılarına ek olarak, hükümetler de adım atıyor. ABD'nin teknoloji merkezi Kaliforniya, yapay zeka (YZ) güvenliği alanında bir ilke imza atarak, sektörün en büyük laboratuvarlarına yönelik şeffaflık kurallarını zorunlu kılan SB 53 yasasını kabul etti. Bu yasa, özellikle OpenAI gibi devlerin güvenlik protokollerini açıklamalarını ve bu protokollere uymalarını şart koşuyor, böylece YZ modellerinin kritik altyapılara siber saldırı veya biyo-silah üretimi gibi felaketle sonuçlanabilecek riskleri nasıl önlediği kamuoyu denetimine açılıyor.

Adler’ın bu kapsamlı analizi, sadece OpenAI’yi değil, aynı zamanda diğer tüm YZ sohbet robotu sağlayıcılarını da kullanıcı güvenliği konusunda daha proaktif olmaya çağırıyor. Her ne kadar şirketler önemli adımlar atsa da, kullanıcıların GPT-5 veya gelecekteki modellerle benzer sanrı sarmallarına düşüp düşmeyeceği belirsizliğini koruyor.

Gerek Adler'ın raporunda vurgulanan iç güvenlik eksiklikleri gerekse artan potansiyel riskler, düzenleyici adımların önemini artırıyor. Kaliforniya'daki SB 53 gibi yasaların yürürlüğe girmesiyle ilgili detaylı analiz ve YZ güvenliği haberleri için kaliforniya yapay zeka güvenlik yasası SB 53'ün yürürlüğe girmesi hakkındaki yazımızı inceleyebilirsiniz.

Kaynak: Steven Adler'ın bu kapsamlı bağımsız analizi ve detayları için eski OpenAI araştırmacısının makalesi incelenebilir.