Amerika Birleşik Devletleri'nin teknoloji merkezi Kaliforniya, yapay zeka (AI) güvenliği konusunda tarihi bir adım attı. Eyalet senatosu, büyük yapay zeka şirketlerine yeni şeffaflık ve güvenlik standartları getirmeyi amaçlayan ve sektörde büyük yankı uyandıran SB 53 yasa tasarısını Cumartesi sabahı erken saatlerde nihai onayla kabul etti. Ancak tasarının yasalaşması için son bir engel daha var: Daha önce benzer bir yasayı veto eden Vali Gavin Newsom'ın imzası.
Bu gelişme, Silikon Vadisi'nde inovasyon özgürlüğü ile kamusal güvenlik arasındaki hassas denge tartışmalarını yeniden alevlendirdi. Bir yanda daha fazla denetim ve şeffaflık talep edenler, diğer yanda ise bu tür düzenlemelerin teknolojik ilerlemeyi yavaşlatacağını savunan teknoloji devleri ve yatırımcılar yer alıyor.
SB 53 Yasa Tasarısı Neler Getiriyor?
Tasarının mimarı Eyalet Senatörü Scott Wiener'a göre, SB 53 üç temel direk üzerine kurulu. Bu yasa, büyük yapay zeka laboratuvarlarını güvenlik protokolleri konusunda şeffaf olmaya zorluyor. Aynı zamanda, yapay zeka şirketlerinde olası suiistimalleri veya güvenlik risklerini bildiren çalışanlar için 'muhbir koruması' getiriyor. Tasarının bir diğer dikkat çekici maddesi ise 'CalCompute' adıyla bilinen ve yapay zeka araştırmaları için daha geniş hesaplama gücüne erişim sağlamayı amaçlayan bir kamu bulut altyapısının oluşturulması.
Yasa, en temelinde yapay zeka geliştiricilerine şunu söylüyor: Geliştirdiğiniz teknolojinin potansiyel risklerini değerlendirin, bu risklere karşı aldığınız önlemleri kamuoyu ile paylaşın ve bu süreçte dürüst davranmayanları ifşa eden çalışanlarınızı koruyun.
Vali Newsom'ın Veto Geçmişi ve Değişen Dengeler
Tüm gözlerin Vali Gavin Newsom'a çevrilmesinin haklı bir nedeni var. Newsom, geçen yıl yine Senatör Wiener tarafından hazırlanan daha kapsamlı bir yapay zeka güvenlik yasasını veto etmişti. O dönemde vali, yasanın 'yüksek riskli ortamlarda kullanılıp kullanılmadığına veya hassas veriler içerip içermediğine bakılmaksızın' tüm büyük modellere 'katı standartlar' uygulamasını eleştirmişti.
Ancak bu kez durum farklı olabilir. Wiener, yeni tasarının Newsom'ın vetosundan sonra bizzat valinin topladığı bir yapay zeka uzmanları panelinin tavsiyelerinden etkilenerek hazırlandığını belirtiyor. Bu da tasarının valinin endişelerini giderecek şekilde revize edildiği anlamına gelebilir.
Öne Çıkan Değişiklik: 500 Milyon Dolarlık Gelir Eşiği
SB 53'e son anda eklenen önemli bir değişiklik, şirketlerin mali gücüne göre farklı sorumluluklar getiriyor. Bu düzenleme, tasarıya karşı çıkan bazı endüstri oyuncularını yatıştırmak için bir uzlaşma adımı olarak görülüyor.
- Yıllık Geliri 500 Milyon Doların Altında Olan Şirketler: En son teknoloji 'sınır' (frontier) yapay zeka modelleri geliştiren ancak bu gelir eşiğinin altında kalan şirketler, yalnızca üst düzey güvenlik detaylarını açıklamakla yükümlü olacak.
- Yıllık Geliri 500 Milyon Doların Üstünde Olan Şirketler: Bu eşiği aşan büyük teknoloji şirketleri ise çok daha detaylı güvenlik raporları sunmak zorunda kalacak.
Silikon Vadisi İkiye Bölündü: Destekleyenler ve Karşı Çıkanlar
Yapay zeka endüstrisi, SB 53 konusunda net bir şekilde ikiye ayrılmış durumda. OpenAI gibi devler ve Andreessen Horowitz (a16z) gibi büyük yatırım şirketleri tasarıya şüpheyle yaklaşıyor.
OpenAI, Newsom'a gönderdiği bir mektupta, eyalet bazında düzenlemelerin 'tekrarlara ve tutarsızlıklara' yol açabileceğini belirterek, federal veya Avrupa standartlarına uyan şirketlerin Kaliforniya kurallarına da uymuş sayılması gerektiğini savundu. Risk sermayesi devi a16z ise daha da ileri giderek, Kaliforniya ve New York'taki gibi eyalet düzeyindeki düzenlemelerin, eyaletlerin eyaletler arası ticareti düzenleme yetkisindeki anayasal sınırları ihlal etme riski taşıdığını iddia etti.
OpenAI'nin bu duruşu, şirketin temel felsefesine dair daha geniş bir tartışmayı da beraberinde getiriyor. Bazı eleştirmenlere göre şirket, adeta bir Yapay Zeka İmparatorluğu kurma misyonuyla hareket ediyor. Bu ideolojinin merkezinde ise insanlığı 'yücelteceği' vaat edilen Yapay Genel Zeka (AGI) hedefi yer alıyor. Bu sarsılmaz AGI inancı, hızı ve büyümeyi güvenliğin önüne koyan bir kültürü besliyor ve bu nedenle SB 53 gibi denetim mekanizmalarına karşı doğal bir direnç oluşturuyor.
Bu temkinli duruş, şirketin üst düzey yöneticilerinin sektöre dair daha geniş çaplı endişeleriyle de paralellik gösteriyor. Nitekim OpenAI Yönetim Kurulu Başkanı Bret Taylor, mevcut yapay zeka coşkusunu 1990'ların sonundaki dot-com balonuna benzeterek sektörde bir 'yapay zeka balonu' olduğu uyarısında bulunmuştu. Taylor'a göre teknoloji devrim niteliğinde olsa da, bu süreçte yaşanacak aşırı değerlemeler ve sürdürülemez projeler nedeniyle birçok yatırımcının para kaybedeceği bir 'düzeltme' dönemi kaçınılmaz olabilir. Bu bakış açısı, OpenAI gibi şirketlerin neden inovasyonu yavaşlatabilecek düzenlemelere karşı mesafeli durduğunu daha net açıklıyor.
Diğer yanda ise Anthropic gibi önemli bir yapay zeka şirketi tasarıya açıkça destek veriyor. Anthropic'in kurucu ortağı Jack Clark, 'Uzun zamandır federal bir standardı tercih ettiğimizi söylüyoruz. Ancak bunun yokluğunda, bu tasarı göz ardı edilemeyecek sağlam bir yapay zeka yönetişim planı oluşturuyor' diyerek tasarının önemine dikkat çekti.
Bundan Sonra Ne Olacak? Kaliforniya Standartları Belirleyebilir
Vali Newsom'ın önündeki karar, sadece Kaliforniya'yı değil, tüm ABD'deki yapay zeka düzenlemelerinin geleceğini şekillendirebilir. Eğer Newsom tasarıyı imzalarsa, dünyanın teknoloji başkenti olarak kabul edilen Kaliforniya, fiili bir ulusal standart belirleyebilir ve diğer eyaletleri de benzer adımlar atmaya teşvik edebilir. Eğer veto ederse, bu durum teknoloji lobisinin bir zaferi olarak yorumlanacak ve kapsamlı yapay zeka düzenlemelerinin bir süre daha ertelenmesine neden olacaktır. Teknoloji dünyası, valinin kararını nefesini tutarak bekliyor.
Bu haberde yer alan bilgiler, teknoloji haber kaynağı TechCrunch'ta yayınlanan bir makaleden derlenmiştir.
