Kaliforniya Eyalet Meclisi, yapay zeka teknolojisinin karanlık yüzüyle mücadele etmek için önemli bir adım attı. Özellikle gençler ve zihinsel olarak hassas kullanıcılar için tasarlanmış 'yapay zeka dostu' sohbet robotlarını düzenlemeyi amaçlayan ve SB 243 olarak bilinen yasa tasarısı, meclisten çift partili bir destekle geçti. Tasarı, son oylama için eyalet senatosuna gönderildi ve Vali Gavin Newsom'un imzasıyla yasalaşması bekleniyor. Bu yasa, yapay zeka şirketlerini, ürünlerinin yol açabileceği zararlardan yasal olarak sorumlu tutan ilk düzenleme olabilir.
Eğer yasa beklendiği gibi onaylanırsa, 1 Ocak 2026'da yürürlüğe girecek ve teknoloji devlerinin merkez üssü olan Kaliforniya'yı, yapay zeka sohbet robotları için güvenlik protokolleri zorunluluğu getiren ilk eyalet yapacak.
Yasa Neleri Değiştirecek? Şirketlere Ağır Sorumluluklar Geliyor
SB 243, temel olarak kullanıcıların sosyal ihtiyaçlarını karşılamak üzere tasarlanmış, insana benzer ve uyarlanabilir yanıtlar veren yapay zeka sistemlerini hedef alıyor. Tasarının getirdiği temel yükümlülükler şunlar:
- Zararlı İçerik Engeli: Sohbet robotlarının intihar düşüncesi, kendine zarar verme veya cinsel içerikli konular etrafında konuşmalar yapmasını önlemeyi amaçlıyor.
- 'Sen Bir Robotla Konuşuyorsun' Uyarısı: Platformların, kullanıcılara gerçek bir insanla değil, bir yapay zeka ile konuştuklarını hatırlatan düzenli uyarılar göndermesi gerekecek. Bu uyarıların reşit olmayanlar için her üç saatte bir yapılması zorunlu olacak.
- Tazminat Hakkı: Yasanın ihlali nedeniyle zarar gördüğünü düşünen bireyler, yapay zeka şirketlerine karşı dava açabilecek. İhlal başına 1.000 dolara kadar tazminat ve avukatlık ücreti talep edilebilecek.
- Şeffaflık ve Raporlama: OpenAI, Character.AI ve Replika gibi büyük oyuncular da dahil olmak üzere şirketlerin yıllık raporlama ve şeffaflık şartlarına uyması gerekecek.
Bardağı Taşıran Son Damlalar: Neden Şimdi?
Bu yasal düzenlemenin arkasında trajik olaylar ve endişe verici raporlar yatıyor. OpenAI'nin ChatGPT'si ile uzun süren sohbetlerin ardından intihar eden genç Adam Raine'in ölümü, yasa koyucuları harekete geçiren en önemli olaylardan biri oldu. Ayrıca, Meta'nın sohbet robotlarının çocuklarla 'romantik' ve 'duygusal' sohbetler yapmasına izin verdiğini gösteren sızdırılmış iç belgeler de kamuoyunda büyük bir tepki yarattı.
Bu endişeler sadece yasa koyucularla sınırlı değil; sektörün içinden de mevcut yapay zeka arkadaşlarının tasarımına yönelik eleştiriler yükseliyor. Örneğin, sosyal yapay zeka arkadaşları geliştirmek için 15 milyon dolar yatırım alan Berlin merkezli Born girişiminin CEO'su Fabian Kamberi, mevcut platformların sömürücü bir yapıda olduğunu ve kullanıcıları birebir sohbet robotlarıyla izole ederek "yalnızlık salgınını körüklediğini" savunuyor. Bu yaklaşıma karşı Born, kullanıcıları tekil bir yapay zeka ile baş başa bırakmak yerine, iki kişinin ortaklaşa büyüttüğü sanal bir evcil hayvan gibi paylaşımlı deneyimler sunarak gerçek dünya bağlarını güçlendirmeyi hedefliyor.
Bu "yalnızlık salgını" o kadar ciddi bir sorun olarak görülüyor ki, teknoloji dünyasında tamamen zıt bir yaklaşımla, insanları dijitalden koparıp gerçek hayatta bir araya getirmeyi amaçlayan girişimler de büyük ilgi görüyor. Örneğin, Z kuşağının bu sorununa çözüm bulmak amacıyla kurulan ve yakın zamanda 14 milyon dolar yatırım alan sosyal platform Clyx, bu eğilimin en somut örneklerinden biri. Platformun Harvard'da sinirbilim eğitimi almış kurucusu Alyx van der Vorm, sosyal izolasyonun "evrensel olarak kötü kabul ettiğimiz şeyler kadar fiziksel olarak zararlı olabileceğini" belirterek konunun ciddiyetini vurguluyor.
Eyalet Senatörü Steve Padilla, TechCrunch'a verdiği demeçte, 'Potansiyel zarar çok büyük, bu da hızlı hareket etmemiz gerektiği anlamına geliyor. Özellikle reşit olmayanların gerçek bir insanla konuşmadıklarını bildiklerinden emin olmak için makul güvenceler getirebiliriz.' ifadelerini kullandı.
Şeytanın Avukatı: Yasa Yeterince Sert Mi?
Tasarının mevcut hali, ilk versiyonuna göre önemli ölçüde yumuşatılmış durumda. Eleştirmenler, bazı kritik maddelerin tasarıdan çıkarıldığına dikkat çekiyor. Örneğin, başlangıçta yer alan ve Replika gibi şirketlerin kullandığı, kullanıcıları aşırı etkileşime teşvik eden 'değişken ödül' taktiklerini (özel mesajlar, nadir yanıtların kilidini açma gibi) yasaklayan madde kaldırıldı. Bu tür mekanizmaların, potansiyel olarak bağımlılık yaratan bir ödül döngüsü oluşturduğu savunuluyor. Ayrıca, sohbet robotlarının kullanıcılarla ne sıklıkla intihar düşüncesi içeren konuşmalar başlattığını takip etme ve raporlama zorunluluğu da tasarıdan çıkarıldı.
Yasa yapıcılar ise bu değişikliklerin, şirketlerin teknik olarak uyması imkansız veya gereksiz yere bürokratik olan kuralları ortadan kaldırarak 'doğru dengeyi' bulduğunu savunuyor.
Peki Bu Türkiye İçin Ne Anlama Geliyor?
Kaliforniya'nın bu adımı, küresel bir emsal teşkil etme potansiyeli taşıyor. Silikon Vadisi'nin kalbinde alınan bu karar, diğer ülkeleri ve özellikle Avrupa Birliği gibi düzenleyici otoriteleri benzer adımlar atmaya teşvik edebilir. Yapay zeka kullanımının hızla arttığı Türkiye'de de gelecekte, özellikle genç kullanıcıları korumaya yönelik benzer yasal çerçevelerin gündeme gelmesi şaşırtıcı olmayacaktır. Bu yasa, inovasyon ve güvenlik arasındaki hassas dengenin nasıl kurulabileceğine dair önemli bir örnek sunuyor.
Bu düzenleme, Silikon Vadisi şirketlerinin yapay zeka konusunda daha 'gevşek' düzenlemeleri savunan adayları desteklemek için siyasi eylem komitelerine (PAC'ler) milyonlarca dolar akıttığı bir dönemde geliyor. Görünen o ki, teknoloji ve regülasyon arasındaki mücadele önümüzdeki yıllarda daha da kızışacak.
Bu haberde yer alan bilgiler, TechCrunch tarafından yayınlanan orijinal rapora dayanmaktadır.
