Hızla değişen bir dünyada gençlerin duygusal karmaşa ve sürekli online olma hali, yapay zeka (YZ) sohbet robotlarının ortaya çıkmasıyla yeni bir boyut kazandı. Ancak, bu sınırsız etkileşim, bazı trajik sonuçları da beraberinde getirdi. Karakter tabanlı YZ rol yapma girişimi Character.AI, platformunda YZ sohbet robotlarıyla uzun süreli konuşmaların ardından en az iki gencin intihar etmesiyle ilgili davalar ve yoğun kamuoyu tepkisiyle karşı karşıya kaldı.
Bu krizin ardından şirket, platformunda önemli ve maliyetli olabilecek bir değişikliğe gitme kararı aldı: 18 yaş altı kullanıcıların YZ ile açık uçlu (unconstrained) sohbet etme yeteneğini tamamen kaldırmak.
Açık Uçlu Sohbet Neden Yasaklanıyor?
Character.AI CEO'su Karandeep Anand, açık uçlu sohbetin, kullanıcıya sürekli olarak takip soruları sorarak katılımı sürdürmek üzere tasarlandığını belirtiyor. Anand'a göre, YZ'nin bir yaratıcı araçtan ziyade bir 'sohbet ortağı' veya 'arkadaş' gibi davranması, özellikle çocuklar için risk teşkil ediyor ve şirketin vizyonuyla da çelişiyor. Bu tür etkileşimler, uzmanların da uyarısıyla, gençlerin duygusal kırılganlıklarını artırabilmekte ve riskli davranışlara yönlendirebilmektedir.
“Character.AI olarak aldığımız ilk karar, 18 yaş altı kullanıcıların platformumuzdaki herhangi bir açık uçlu sohbeti yapay zeka ile sürdürme yeteneğini kaldırmak oldu.” - Karandeep Anand, CEO
Yeni Odak: Sohbetten Yaratıcılığa Geçiş
Character.AI, bu kararla birlikte kendisini bir 'YZ arkadaşlık uygulamasından' ziyade bir 'rol yapma ve içerik platformuna' dönüştürmeyi hedefliyor. Kasım ayının 25'ine kadar kademeli olarak sıfırlanacak olan sohbet erişimi yerine, gençlerin yaratıcılığa odaklanması teşvik edilecek.
Platformdaki Yeni Özellikler:
- AvatarFX: Görüntüleri animasyonlu videolara dönüştüren video oluşturma modeli.
- Scenes: Kullanıcıların favori karakterleriyle anlatılara adım atabileceği, önceden doldurulmuş etkileşimli hikayeler.
- Streams: Herhangi iki karakter arasında dinamik etkileşim sağlayan bir özellik.
- Community Feed: Kullanıcıların oluşturdukları karakterleri, sahneleri ve videoları paylaşabileceği sosyal akış.
Yaş Doğrulama ve Sektör Çıkmazı: Şeytanın Avukatı
Bu yasağın uygulanması için Character.AI, kullanıcı davranışını analiz eden şirket içi araçların yanı sıra, Persona gibi üçüncü taraf araçları da kullanacak. Başarısız olunması durumunda ise yüz tanıma ve kimlik kontrolleri devreye girecek. CEO Anand, daha önce uygulanan ebeveyn denetim araçlarının da genç kullanıcı tabanının büyük bir kısmını kaybetmelerine neden olduğunu ve bu yeni kararın da kullanıcı kaybına yol açacağını (churn) tahmin ettiğini belirtti.
Peki Ya Genç Kullanıcılar Başka Platformlara Kayarsa?
Bu radikal adım, güvenlik açısından gerekli olsa da, eleştirel bir bakış açısıyla bakıldığında önemli bir riski de beraberinde getiriyor. Character.AI'dan ayrılan genç kullanıcıların, OpenAI (ChatGPT) veya diğer daha az regüle edilmiş platformlara yöneleceği ve burada açık uçlu, gözetimsiz sohbetlere devam edeceği endişesi mevcut. Anand bu durumu kabul ederek, kendi şirketlerinin bu adımla sektör için bir standart belirlemesini umduğunu dile getirdi. Zira, ChatGPT'nin de benzer intihar vakalarıyla gündeme gelmesi, sorunun platform özelinde değil, teknolojinin doğasında yattığını gösteriyor.
Bu endişe, YZ devlerinin hızı ve finansal ölçeği ile daha da derinleşiyor. Örneğin, OpenAI CEO'su Sam Altman, şirketinin 2028 yılına kadar insan gözetimi olmadan bilimsel araştırmaları yürütebilecek tam otonom yapay zeka araştırmacıları geliştirmeyi hedeflediğini açıklamıştı. Bu agresif yol haritası, OpenAI'ın önümüzdeki birkaç yıl içinde 1.4 trilyon dolarlık devasa bir altyapı yatırımı (30 gigawatt taahhüdü) yapmasıyla destekleniyor. Bu ölçekteki hız ve kâr odaklı yatırım baskısı, güvenlik ve etik kaygıların ticari hedeflerin gölgesinde kalabileceği riskini ortaya koymaktadır. Bu konuya ilişkin detayları sitemizden inceleyebilirsiniz.
Regülasyon Baskısı ve Güvenlik Laboratuvarı
Character.AI'ın bu kararı, düzenleyiciler henüz tam olarak zorlamadan önce alınmış olması açısından dikkat çekicidir. ABD Senatörleri Josh Hawley ve Richard Blumenthal, ebeveyn şikayetleri üzerine YZ sohbet robotu arkadaşlarının reşit olmayanlara sunulmasını yasaklayacak bir yasa tasarısı sunacaklarını duyurdu. Ayrıca, Kaliforniya eyaleti, YZ arkadaşlık sohbet robotlarını düzenleyen ilk eyalet olarak, şirketlerin güvenlik standartlarını karşılayamaması durumunda sorumlu tutulacağını yasalaştırdı.
Şirket, platformdaki değişikliklerin yanı sıra, YZ eğlence özelliklerinin gelecekteki güvenlik uyumunu yenilemeye adanmış bağımsız bir kar amacı gütmeyen kuruluş olan YZ Güvenlik Laboratuvarı'nı (AI Safety Lab) kuracağını ve finanse edeceğini de bildirdi. Bu, Character.AI'ın sadece ürün değil, sektör standartları geliştirmeye odaklandığını gösteriyor.
Bu zorlu dönüşüm, Character.AI için kullanıcı kaybı anlamına gelse de, CEO Anand'ın da vurguladığı gibi, etik sorumluluk ve çocukların güvenliği, ticari çıkarların önüne geçmek zorunda kalan yeni nesil teknoloji şirketlerinin karşı karşıya kaldığı en büyük ikilemi temsil ediyor.
Kaynak: Yapay zeka devi Character.AI’ın çocuk kullanıcılar için aldığı bu kritik kararın detaylarına TechCrunch üzerinden ulaşabilirsiniz.
