Yapay zeka sohbet robotlarının hayatımızdaki yeri giderek artarken, birçok kullanıcı kişisel ve duygusal sorunları için insanlardan ziyade ChatGPT gibi dil modellerine yöneliyor. Bu eğilimin farkında olan OpenAI, kullanıcıları potansiyel olarak daha karmaşık duygusal sulara sürüklememek için önemli bir adım atıyor.
Artık Karar Yok, Sadece Rehberlik Var
OpenAI'ın son blog gönderisine göre, bir kullanıcı ChatGPT'ye "Erkek arkadaşımdan ayrılmalı mıyım?" gibi kritik bir soru sorduğunda, yapay zeka artık doğrudan bir cevap vermeyecek. Şirket, özellikle CEO Sam Altman'ın da belirttiği gibi gençlerin duygusal destek için ChatGPT'ye artan bağımlılığı göz önüne alındığında, bu değişikliğin son derece yerinde olduğunu vurguluyor.
"[ChatGPT] bu konuyu düşünmenize yardımcı olmalı; sorular sormalı, artıları ve eksileri tartmalı... Yüksek riskli kişisel kararlar için bu yeni davranış yakında devreye alınacak."
Bu yeni yaklaşım, ChatGPT'nin karar verici bir otorite olmaktan çıkıp, kullanıcının kendi düşünce sürecini yönetmesine yardımcı olan bir araç haline gelmesini hedefliyor.
"Sağlıklı Kullanım" ve Sorumluluk Adımları
OpenAI, bu değişikliği "sağlıklı kullanım" çerçevesinde attığı bir dizi adımdan biri olarak konumlandırıyor. Örneğin, platforma saatlerce içini döken kullanıcılara daha sık mola vermelerini öneren bir açılır pencere özelliği zaten uygulanmış durumda. Şirket, amacının kullanıcıların dikkatini çekmek değil, platformu "iyi bir şekilde kullanmalarına" yardımcı olmak olduğunu belirtiyor.
OpenAI, bu adımların arkasındaki motivasyonu açıklarken oldukça şeffaf bir dil kullanıyor ve "her zaman doğruyu yapamadıklarını" kabul ediyor. Özellikle, 4o modelinin "sanrı veya duygusal bağımlılık belirtilerini tanımada yetersiz kaldığı durumlar" olduğuna dikkat çekiyorlar. Bu itiraf, Rolling Stone ve The New York Times gibi prestijli yayınlarda yer alan ve ChatGPT'nin yoğun kullanımı ile zihinsel sağlık krizleri arasında bir ilişki olduğunu öne süren haberlere bir yanıt niteliği taşıyor.
OpenAI'ın Yeni Yaklaşımının Temel Noktaları:
- Rehberlik Odaklılık: Karar vermek yerine, düşünme sürecini destekleyici sorular sormak.
- Duygusal Farkındalık: Zihinsel veya duygusal sıkıntı belirtilerini daha iyi tespit etmek.
- Kaynak Yönlendirmesi: İhtiyaç duyulduğunda kullanıcıları kanıta dayalı kaynaklara yönlendirmek.
- Kontrolü Kullanıcıya Bırakmak: Kullanıcının zamanını ve kararlarını kontrol etmesine yardımcı olmak.
Sonuç olarak OpenAI, kullanıcıların ChatGPT'yi aşırı hevesli bir en iyi arkadaş veya ücretsiz bir terapist olarak görmesini aktif olarak engellemese de, kullanıcı tabanı için en azından bazı "duygusal korkuluklar" inşa etmenin kendi çıkarlarına olduğunun farkında. Hükümetlerin yapay zekayı anlamlı bir şekilde düzenleme konusundaki isteksizliği göz önüne alındığında, bu tür şirket içi düzenlemeler, yakın gelecekte umabileceğimiz en somut adımlar gibi görünüyor.
