Yapay zeka dünyasının öncüsü OpenAI, amiral gemisi ürünü ChatGPT için genç kullanıcıları doğrudan etkileyecek bir dizi köklü değişikliği duyurdu. CEO Sam Altman tarafından açıklanan yeni politikalar, 18 yaş altı kullanıcıların güvenliğini, mahremiyet ve özgürlüklerinin önüne koyarak yapay zeka etkileşiminde yeni bir sayfa açıyor. Altman, bu güçlü teknolojinin reşit olmayanlar için önemli koruma mekanizmaları gerektirdiğini vurguladı.
OpenAI CEO'su Sam Altman, yaptığı açıklamada, 'Gençler için güvenliği, mahremiyet ve özgürlüğün önüne koyuyoruz. Bu yeni ve güçlü bir teknoloji ve biz reşit olmayanların önemli ölçüde korunmaya ihtiyacı olduğuna inanıyoruz.' ifadelerini kullandı.
Yeni Kısıtlamalar Neleri Kapsıyor?
OpenAI'ın getirdiği yeni düzenlemeler, özellikle gençlerin hassas konularla olan etkileşimini mercek altına alıyor. Bu değişiklikler sadece birer yazılım güncellemesi değil, aynı zamanda şirketin toplumsal sorumluluğa yaklaşımındaki bir değişimi de simgeliyor.
- Flörtöz Konuşmalara Son: ChatGPT, artık 18 yaş altı kullanıcılarla 'flörtöz' olarak tanımlanabilecek veya cinsel imalar içeren sohbetlere girmeyecek şekilde eğitilecek.
- İntihar ve Kendine Zarar Verme Konularında Sıkı Denetim: Genç bir kullanıcı kendine zarar verme veya intihar senaryoları hakkında konuştuğunda, yapay zeka artık daha proaktif davranacak. Sistemin, durumun ciddiyetine göre ebeveynlerle veya yerel emniyet güçleriyle iletişime geçmeye çalışması planlanıyor.
- Ebeveyn Kontrolü: 'Karartma Saatleri': Ebeveynler, çocuklarının ChatGPT'yi kullanamayacağı 'karartma saatleri' belirleyebilecek. Bu özellik, özellikle gece saatlerinde veya ders zamanlarında kullanımı sınırlamak için tasarlandı.
Bu Radikal Kararın Arkasındaki Nedenler Ne?
OpenAI'ın bu adımları, soyut endişelerden çok daha fazlasına dayanıyor. Şirket, hem kamuoyu baskısı hem de yasal süreçlerle karşı karşıya. Bu senaryolar maalesef sadece varsayımsal değil. ChatGPT ile aylarca süren etkileşimlerin ardından intihar eden Adam Raine'in ailesi tarafından OpenAI'a karşı açılmış bir 'haksız ölüm' davası bulunuyor. Benzer bir dava, bir diğer sohbet robotu olan Character.AI için de geçerli. Bu trajik olaylar, yapay zeka sohbet robotlarının özellikle gençler üzerindeki potansiyel tehlikelerini gözler önüne serdi.
Aynı zamanda, bu politikalar ABD Senatosu Adalet Komitesi'nin 'Yapay Zeka Sohbet Robotlarının Zararlarının İncelenmesi' başlıklı oturumuyla aynı güne denk geldi. Reuters tarafından ortaya çıkarılan ve reşit olmayan kullanıcılarla cinsel içerikli konuşmaları teşvik ettiği iddia edilen şirket içi belgeler de sektördeki baskıyı artırdı.
Güvenlik ve Mahremiyet Arasındaki İnce Çizgi
Bu yeni güvenlik önlemleri, beraberinde önemli bir tartışmayı da getiriyor: mahremiyet. OpenAI, genç kullanıcıları ayrıştırmanın teknik olarak zorlu bir süreç olduğunu kabul ediyor. Şirket, bir kullanıcının 18 yaşın altında olup olmadığını anlayan uzun vadeli bir sistem üzerinde çalıştığını belirtiyor. Belirsiz durumlarda ise sistem, varsayılan olarak daha kısıtlayıcı kuralları uygulayacak.
Endişeli ebeveynler için en güvenilir yöntem, genç kullanıcının hesabını bir ebeveyn hesabına bağlamak olacak. Bu, sadece kuralların uygulanmasını sağlamakla kalmayacak, aynı zamanda çocuğun tehlikede olduğuna inanıldığında ebeveynlerin doğrudan uyarılmasına olanak tanıyacak.
Ancak CEO Sam Altman, bu ilkelerin birbiriyle çeliştiğinin de farkında. Yetişkin kullanıcıların gizliliğine ve özgürlüğüne olan bağlılıklarını sürdürdüklerini belirten Altman, 'Bu ilkelerin çatışma içinde olduğunun farkındayız ve bu çatışmayı nasıl çözdüğümüz konusunda herkesin hemfikir olmayacağını biliyoruz.' diyerek konunun hassasiyetine dikkat çekti. Bu durum, teknolojinin geleceğinde güvenlik, özgürlük ve mahremiyet dengesinin ne kadar zorlu bir denklem olacağını bir kez daha kanıtlıyor.
Bu haberin orijinal kaynağına TechCrunch üzerinden ulaşabilirsiniz.
