Yapay zeka teknolojilerinin günlük hayatımızdaki etkisi arttıkça, bu teknolojilerin etik ve güvenlik standartları da daha fazla tartışma konusu oluyor. Amerika Birleşik Devletleri'nin en yenilikçi eyaletlerinden biri olan Kaliforniya, bu alanda önemli bir adım atmaya hazırlanıyor. Özellikle çocuklar ve hassas kullanıcılar için potansiyel riskler taşıyan yapay zeka arkadaşlık botlarına yönelik geliştirilen SB 243 adlı yasa tasarısı, hem Eyalet Meclisi'nden hem de Senato'dan iki partili destekle geçerek Vali Gavin Newsom'un onayına sunuldu. Eğer Newsom yasayı imzalarsa, Kaliforniya, yapay zeka şirketlerini bu alanda yasal olarak sorumlu tutan ilk eyalet olacak.
SB 243 Neleri Değiştirecek?
Ocak 2026'da yürürlüğe girmesi beklenen SB 243, temel olarak adaptif, insana benzer yanıtlar veren ve kullanıcıların sosyal ihtiyaçlarını karşılama kapasitesine sahip yapay zeka sistemlerini, yani 'arkadaşlık botlarını' hedef alıyor. Yasa, bu botların intihar düşüncesi, kendine zarar verme veya cinsel içerikli sohbetlere girmesini engellemeyi amaçlıyor. Ayrıca, platformlara önemli yükümlülükler getiriyor:
- Periyodik Uyarılar: Özellikle çocuk kullanıcılar için her üç saatte bir, kullanıcılara gerçek bir insanla değil, bir yapay zeka ile konuştuklarını ve ara vermeleri gerektiğini hatırlatan tekrarlayan uyarılar sağlanacak.
- Yıllık Raporlama ve Şeffaflık: OpenAI, Character.AI ve Replika gibi büyük oyuncular da dahil olmak üzere yapay zeka arkadaşlık botu sunan şirketler, Temmuz 2027'den itibaren yıllık raporlama ve şeffaflık gerekliliklerine tabi olacak.
- Yasal Sorumluluk: Yasa ihlallerinden zarar gördüğünü düşünen bireylerin, yapay zeka şirketlerine karşı dava açarak tazminat (ihlal başına 1.000 dolara kadar) ve avukatlık ücreti talep etme hakkı olacak.
Yasanın Arka Planı ve Acı Deneyimler
SB 243'ün ortaya çıkışı, bazı trajik olaylarla hız kazandı. Eyalet senatörleri Steve Padilla ve Josh Becker tarafından sunulan tasarı, özellikle Adam Raine adlı bir gencin OpenAI'ın ChatGPT'si ile intiharını ve kendine zarar verme eylemlerini tartıştığı uzun sohbetlerin ardından intihar etmesiyle Kaliforniya yasama meclisinde ivme kazandı. Ayrıca, Meta'nın sohbet botlarının çocuklarla 'romantik' ve 'duygusal' sohbetlere girmesine izin verildiğini gösteren sızdırılmış dahili belgeler de bu yasanın gerekliliğini pekiştirdi.
Senatör Steve Padilla, yasanın aciliyetini vurgulayarak, 'Zarar potansiyelinin çok büyük olduğunu düşünüyorum, bu da hızlı hareket etmemiz gerektiği anlamına geliyor. Özellikle çocukların gerçek bir insanla konuşmadığını bilmesini sağlayacak, insanlar kendilerine zarar vermeyi düşündüklerini söylediklerinde doğru kaynaklara yönlendirecek ve uygunsuz materyallere maruz kalmamalarını temin edecek makul güvenlik önlemleri alabiliriz' dedi.
ABD Genelinde Artan Endişeler ve Tepkiler
Kaliforniya'daki bu gelişme, ABD genelinde yapay zeka platformlarının çocukları koruma önlemlerine yönelik artan denetimlerle paralel gidiyor. Federal düzeyde kapsamlı bir düzenlemenin olmaması, eyaletlerin kendi internet ve yaş doğrulama yasalarını çıkarmasına neden olarak teknoloji şirketleri için adeta bir 'yasal labirent' yaratıyor. Bu durum, özellikle Bluesky gibi küçük sosyal medya platformlarının eyalet bazlı karmaşık yasal gerekliliklere uyum sağlamakta zorlanmasına yol açıyor; şirket Mississippi'nin katı yaş doğrulama yasası karşısında eyaletteki hizmetlerini sonlandırırken, Güney Dakota ve Wyoming'de ise üçüncü taraf Kids Web Services (KWS) çözümüyle faaliyetlerine devam etme yolunu seçti. Bu tür vakalar, inovasyonun ve rekabetin önünde ciddi engeller oluşturduğunu ve büyük oyuncular karşısında küçük girişimlerin kırılganlığını gözler önüne seriyor. Bluesky'ın bu eyalet bazlı yaş doğrulama stratejisi hakkında daha fazla bilgi için Bluesky yaş doğrulama stratejisi haberimizi okuyabilirsiniz. Bu genel eğilimle birlikte, Federal Ticaret Komisyonu (FTC), yapay zeka sohbet botlarının çocukların ruh sağlığı üzerindeki etkilerini araştırmak üzere hazırlanırken, Teksas Başsavcısı Ken Paxton, Meta ve Character.AI hakkında çocukları ruh sağlığı iddialarıyla yanıltmakla suçlayarak soruşturmalar başlattı. Benzer şekilde, Senatör Josh Hawley (R-MO) ve Senatör Ed Markey (D-MA) de Meta hakkında ayrı soruşturmalar başlattılar. Bu durum, yapay zeka etiği ve güvenliğinin ulusal bir öncelik haline geldiğini gösteriyor.
Bu düzenleyici baskının yanı sıra, teknoloji ve oyun şirketleri de artan kamuoyu beklentilerine proaktif adımlarla yanıt veriyor. Örneğin, oyun devi Sony'nin PlayStation için sunduğu yeni ebeveyn kontrolü uygulaması, ailelere çocuklarının oyun sürelerini, harcamalarını ve eriştikleri içerikleri yönetme imkanı tanıyarak bu yönde atılmış önemli bir kurumsal adım olarak öne çıkıyor. Bu tür gelişmeler, çocukların dijital dünyadaki güvenliğinin yalnızca yasal zorunluluklarla değil, aynı zamanda sektör içi sorumluluk anlayışıyla da şekillendiğini gösteriyor.
Yasanın Yumuşayan Hükümleri ve Sektörün Lobisi
SB 243'ün ilk taslağı, şu anki halinden daha katı gereklilikler içeriyordu. Örneğin, yasa başlangıçta yapay zeka botlarının 'değişken ödül' taktikleri veya aşırı etkileşimi teşvik eden diğer özellikleri kullanmasını engellemeyi talep ediyordu. Replika ve Character gibi şirketlerin kullandığı bu taktikler, kullanıcılara özel mesajlar, anılar, hikaye çizgileri veya nadir yanıtların kilidini açma yeteneği sunarak, eleştirmenlerin 'potansiyel olarak bağımlılık yapıcı bir ödül döngüsü' olarak adlandırdığı bir sistem yaratıyor. Ancak bu hükümler, değişiklikler yoluyla tasarıdan çıkarıldı. Ayrıca, botların intihar düşüncelerini ne sıklıkla başlattığını takip etme ve raporlama gereklilikleri de kaldırıldı.
Senatör Becker, yapılan değişikliklerin yasanın uygulanabilirliğini artırdığını savunarak, 'Bence şirketlerin uyum sağlaması imkansız olan, teknik olarak mümkün olmayan veya sadece gereksiz bürokrasiye yol açan bir şeyi uygulamadan zararlara ulaşmada doğru dengeyi sağlıyor' yorumunda bulundu. Bu durum, yasa yapıcılar ve teknoloji şirketleri arasında süregelen 'inovasyon mu, düzenleme mi?' ikilemini bir kez daha gözler önüne seriyor. Silikon Vadisi şirketleri, yapay zeka düzenlemesine 'hafif dokunuşlu' bir yaklaşımı savunan adayları desteklemek için milyonlarca dolar harcıyor.
Değer Katma: Yapay Zeka Etiği ve Gelecek
SB 243 gibi yasalar, yapay zeka teknolojilerinin toplumsal etkileri hakkında daha geniş bir tartışmayı tetikliyor. İnsan benzeri etkileşimler sunan botlar, özellikle genç ve yalnız bireyler için bir teselli kaynağı olabileceği gibi, aynı zamanda bağımlılık, yanlış bilgiye maruz kalma ve duygusal manipülasyon gibi ciddi riskler de barındırıyor. Kaliforniya'nın bu adımı, teknolojinin getirdiği faydaları sürdürürken, olası zararlardan toplumu koruma çabasının bir örneği. Bu bağlamda, yapay zeka dünyasının önde gelen isimlerinden OpenAI'nin, en büyük yatırımcısı Microsoft'un da onayıyla kar amacı güden birimini bir Kamu Yararı Şirketine (Public Benefit Corporation - PBC) dönüştürme kararı, sektörün etik ve toplumsal sorumluluklara yönelik proaktif adımlarından biri olarak dikkat çekiyor. Bu dönüşüm, şirketin hem hissedar kârı hem de insanlığa fayda sağlayan yapay genel zeka (AGI) geliştirme misyonu arasında bir denge kurma çabasını yansıtırken, yapay zeka etiği konusundaki tartışmaların boyutunu da genişletiyor. Gelecekte, diğer eyaletlerin ve ülkelerin de benzer düzenlemelerle bu alana el atması bekleniyor, zira yapay zeka etiği, dijital çağın en kritik konularından biri olmaya devam edecek.
OpenAI'nin bu stratejik dönüşümü hakkında daha fazla bilgi için OpenAI Microsoft Onayı ile Kamu Yararı Şirketine Dönüşüyor başlıklı haberimizi okuyabilirsiniz.
Sektörün Tepkisi ve Başka Bir Yasa Tasarısı: SB 53
Kaliforniya, SB 243'ü değerlendirirken, kapsamlı şeffaflık raporlama gereklilikleri getirecek olan başka bir yapay zeka güvenlik tasarısı olan SB 53'ü de tartışıyor. OpenAI, Meta, Google ve Amazon gibi büyük teknoloji şirketleri, Vali Newsom'dan bu tasarıyı federal ve uluslararası çerçeveler lehine terk etmesini talep eden açık mektuplar yazarak SB 53'e karşı çıktılar. Bu şirketlerden sadece Anthropic, SB 53'ü desteklediğini açıkladı. Bu durum, sektörün kendi içindeki farklı yaklaşımları ve düzenleyici baskıya karşı direnci de gözler önüne seriyor.
Senatör Padilla, inovasyon ve düzenlemenin karşılıklı dışlayıcı olduğu önermesini reddederek, 'Bunun sıfır toplamlı bir durum olduğunu reddediyorum, inovasyon ve düzenlemenin karşılıklı dışlayıcı olduğunu. Hem sağlıklı olduğunu düşündüğümüz ve faydaları olan inovasyonu ve gelişmeyi destekleyebiliriz – ki bu teknolojinin faydaları açıkça var – hem de aynı zamanda en savunmasız insanlar için makul güvenlik önlemleri sağlayabiliriz' ifadelerini kullandı.
Character.AI sözcüsü, 'Yasama ve düzenleyici ortamı yakından takip ediyoruz ve bu yeni alanda yasaları değerlendirmeye başladıkça düzenleyiciler ve yasa koyucularla çalışmayı memnuniyetle karşılıyoruz' açıklamasında bulundu ve şirketlerinin zaten kullanıcı sohbet deneyimi boyunca belirgin uyarılar içerdiğini belirtti. Meta ise konuyla ilgili yorum yapmaktan kaçındı.
Kaliforniya'nın bu tarihi adımı, yapay zeka teknolojilerinin hızlı ilerleyişi karşısında yasa koyucuların sorumluluk alma çabasının önemli bir göstergesi olarak kayıtlara geçiyor. Gözler şimdi Vali Newsom'da. Eğer imza gelirse, 2026 yılından itibaren yapay zeka şirketlerinin operasyonlarında önemli değişiklikler yaşanabilir.
Kaynak: Bu haber metni, TechCrunch'ta yayınlanan orijinal makaleden derlenmiş ve güncel gelişmelerle zenginleştirilmiştir.
