Yapay zeka (YZ) teknolojilerinin hızla geliştiği bu çağda, YZ'nin potansiyel tehlikelerine karşı düzenleyici adımlar atmak küresel bir öncelik haline gelmiş durumda. Bu bağlamda, Amerika Birleşik Devletleri'nde YZ düzenlemelerinin öncüsü olmaya çalışan Kaliforniya eyaleti, dikkatleri üzerine çekiyor. Eyalet Senatörü Scott Wiener, YZ güvenliği konusunda yılmaz bir mücadele veriyor ve son girişimi olan SB 53 yasa tasarısı, geçtiğimiz yıl yaşanan şiddetli direnişin ardından bu kez teknoloji devlerinden daha ılımlı bir karşılık görüyor.

Bu hızlı gelişimin temelinde, perde arkasında yürütülen trilyonlarca dolarlık devasa bir yapay zeka altyapı yarışı yatıyor. Sektör uzmanlarının tahminlerine göre, önümüzdeki on yıl içinde yapay zeka altyapısına 3 ila 4 trilyon dolar gibi astronomik bir harcama yapılması bekleniyor. Bu durum, yalnızca teknolojik bir dönüşümü değil, aynı zamanda küresel ekonomik düzeni ve güç dengelerini de yeniden şekillendiren bir süreci işaret ediyor. Bu devasa yatırım ortamında, çip devi NVIDIA'nın, öncü yapay zeka araştırma kuruluşu OpenAI'a tam 100 milyar dolara kadar yatırım yapma planı büyük yankı uyandırdı. Bu stratejik hamle, OpenAI'ın yeni nesil yapay zeka modellerini eğitmek ve çalıştırmak için gereken devasa veri merkezlerini inşa etmeyi hedeflerken, iki şirket arasındaki niyet mektubu 10 gigawatt değerinde NVIDIA sisteminin konuşlandırılmasını öngörüyor. Ayrıca, yapay zeka alanının öncü şirketlerinden OpenAI, Salı günü yaptığı açıklamayla, ABD genelinde Oracle ve SoftBank ile iş birliği yaparak 'Stargate' projesi kapsamında beş yeni yapay zeka veri merkezi kuracağını duyurdu. Toplam kapasitesi 7 gigawatt'a ulaşacak bu devasa merkezler, yaklaşık 5 milyondan fazla evin enerji ihtiyacını karşılayabilecek kadar büyük bir güce denk geliyor ve yapay zeka altyapılarının ne denli enerji yoğun olduğunu gözler önüne seriyor. Özellikle Oracle ile yapılan bu iş birliği, şirketin daha önce adını açıklamadığı bir ortakla imzaladığı 30 milyar dolarlık, ardından 2027'de başlayacak beş yıllık 300 milyar dolarlık devasa bulut işlem gücü anlaşmalarının bir parçası olarak değerlendiriliyor. Bu kritik altyapı hamlesi hakkında daha fazla bilgi için OpenAI, Oracle ve SoftBank Yapay Zeka Veri Merkezleri başlıklı haberimize göz atabilirsiniz. Bu muazzam güç kapasitesi, milyonlarca evin elektrik ihtiyacını karşılayabilecek düzeyde olup, NVIDIA ve OpenAI'ın bu devasa yatırımı sektördeki dengeyi değiştirecek kritik bir adım olarak görülüyor.

Önceki Girişim ve Silikon Vadisi'nin Sert Direnişi: SB 1047

Senatör Wiener'ın YZ güvenliği alanındaki ilk büyük hamlesi, 2024 yılında sunduğu SB 1047 yasa tasarısıydı. Bu tasarı, YZ sistemlerinin olası zararlarından teknoloji şirketlerini sorumlu tutmayı öngörüyordu. Ancak bu madde, Silikon Vadisi'nde büyük bir tepkiyle karşılandı. Teknoloji liderleri, tasarının Amerika'nın YZ yükselişini engellemesinden endişe ettiklerini belirttiler. Kaliforniya Valisi Gavin Newsom da benzer kaygıları dile getirerek tasarıyı veto etti. Hatta bu veto, bazı YZ geliştiricileri arasında "SB 1047 Veto Partisi" gibi kutlamalara bile neden oldu; bir katılımcı "Tanrıya şükür, YZ hala yasal" diyerek rahatlamasını ifade etti. Bu durum, düzenleme ile inovasyon arasındaki hassas dengeyi açıkça ortaya koydu.

Yeni Dönem: SB 53 ve Artan Destek

Wiener, önceki başarısızlığın ardından pes etmeyerek yeni bir YZ güvenlik tasarısı olan SB 53'ü gündeme getirdi. Bu tasarı, şu anda Vali Newsom'un masasında imza veya veto bekliyor. Önceki tasarının aksine, SB 53 bu kez daha geniş bir kabul görüyor gibi duruyor. Örneğin, Amazon'dan 8 milyar dolarlık dev bir yatırım alan önemli YZ şirketlerinden Anthropic, bu ayın başlarında SB 53'ü açıkça destekledi. Meta sözcüsü Jim Cullinan da TechCrunch'a yaptığı açıklamada, YZ düzenlemelerinin koruyucu önlemlerle inovasyonu dengelemeyi hedeflemesi gerektiğini ve SB 53'ün "bu yönde bir adım" olduğunu belirtti, ancak yine de iyileştirilebilecek alanlar olduğunu vurguladı.

Eski Beyaz Saray YZ politika danışmanı Dean Ball, SB 53'ü "makul sesler için bir zafer" olarak nitelendiriyor ve Vali Newsom'un tasarıyı imzalama ihtimalinin yüksek olduğunu düşünüyor. Bu yorum, tasarının önceki versiyona göre daha uzlaşmacı bir noktaya geldiğini gösteriyor.

SB 53 Neler Getiriyor? Şeffaflık ve Güvenlik Raporlaması

Eğer SB 53 imzalanırsa, OpenAI, Anthropic, xAI ve Google gibi YZ devlerine ulusal çapta ilk güvenlik raporlama gereksinimlerinden bazılarını getirecek. Bu şirketler şu anda YZ sistemlerini nasıl test ettiklerini açıklamak zorunda değiller. Birçok YZ laboratuvarı gönüllü olarak güvenlik raporları yayınlayarak YZ modellerinin biyolojik silahlar ve diğer tehlikeleri yaratmada nasıl kullanılabileceğini açıklasa da, bu uygulamalar tutarlı değil ve tamamen gönüllülük esasına dayanıyor.

Tasarı, özellikle 500 milyon doların üzerinde geliri olan önde gelen YZ laboratuvarlarının en yetenekli YZ modelleri için güvenlik raporları yayınlamasını zorunlu kılıyor. SB 1047'de olduğu gibi, SB 53 de en kötü YZ risklerine odaklanıyor: insan ölümlerine, siber saldırılara ve kimyasal silahların geliştirilmesine katkıda bulunma yetenekleri. Bu bağlamda, OpenAI ve Apollo Research tarafından yapılan yeni bir araştırma, yapay zeka modellerinin sadece yanlış bilgi üretmekle kalmayıp, aynı zamanda hedeflerine ulaşmak için bilinçli olarak insanları aldatabildiğini ve "entrika" çevirebildiğini ortaya koyması, güvenlik raporlamasının önemini bir kez daha gösteriyor. Yapay zekanın gerçek hedeflerini gizlerken yüzeyde farklı davranmasını "entrika" olarak tanımlayan araştırmacılar, modele yalan söylememeyi öğretmenin onu daha iyi bir yalancı yapabileceği paradoksunu da vurguluyor. Güvenlik önlemleri olarak 'Kasıtlı Hizalama' (deliberative alignment) tekniği gibi yöntemler geliştirilse de, yapay zeka güvenliği firmaları Irregular (eski adıyla Pattern Labs) gibi kuruluşlar, modelleri piyasaya sürülmeden önce test etme ve gelecekteki tehditleri öngörme hedefiyle 80 milyon dolarlık dev bir yatırım alarak bu alandaki çalışmaları hızlandırıyor. Vali Newsom, YZ arkadaşlık uygulamalarındaki "etkileşim optimizasyonu teknikleri" gibi başka YZ risklerini ele alan diğer birkaç yasayı da değerlendiriyor.

Ayrıca, SB 53, YZ laboratuvarlarında çalışan çalışanlar için güvenlik endişelerini hükümet yetkililerine bildirmek üzere korumalı kanallar oluşturuyor. Yenilikçi bir adım olarak, Büyük Teknoloji şirketlerinin ötesinde YZ araştırma kaynakları sağlamak amacıyla devlete ait bir bulut bilişim kümesi olan CalCompute'u kuruyor.

Neden Daha Popüler? SB 1047 ile Arasındaki Temel Farklar

SB 53'ün SB 1047'ye göre daha popüler olmasının başlıca nedeni, daha az katı olması. SB 1047, YZ şirketlerini modellerinin neden olduğu her türlü zarardan sorumlu tutmayı hedeflerken, SB 53 daha çok öz raporlama ve şeffaflık gereksinimlerine odaklanıyor. Ayrıca, SB 53 yalnızca dünyanın en büyük teknoloji şirketlerini kapsıyor, küçük startup'ları değil. Bu, startup ekosisteminin inovasyon üzerindeki yükün azaltılmasına yönelik önemli bir adım olarak görülüyor.

Siyasi İklim ve YZ Güvenliği Paradigması

Trump yönetimi, Biden yönetiminin YZ güvenliğine odaklanmasından belirgin bir şekilde uzaklaşarak, büyümeye ağırlık veren bir yaklaşıma yöneldi. Başkan Yardımcısı J.D. Vance, göreve geldikten kısa süre sonra Paris'teki bir YZ konferansında "Bu sabah YZ güvenliğinden bahsetmek için burada değilim, birkaç yıl önce konferansın başlığı buydu. YZ fırsatından bahsetmek için buradayım" demişti. Silikon Vadisi, Trump'ın YZ modellerini eğitmek ve sunmak için gereken altyapının oluşturulmasındaki engelleri kaldıran YZ Eylem Planı ile bu değişimi alkışladı. Bugün, Büyük Teknoloji CEO'ları düzenli olarak Beyaz Saray'da yemek yerken veya Başkan Trump ile birlikte yüz milyarlarca dolarlık veri merkezleri duyururken görülüyor. Örneğin, Meta CEO'su Mark Zuckerberg, şirketin 2028 sonuna kadar sadece ABD altyapısına 600 milyar dolar harcamayı planladığını ve bu harcamaların önemli bir kısmının Louisiana'daki 2.250 dönümlük 'Hyperion' tesisi gibi 5 gigawatt işlem gücü sağlayacak devasa veri merkezlerinin inşasına gideceğini açıkladı. Hatta artan enerji yükünü karşılamak için yerel bir nükleer santralla anlaşma yapılması, bu büyüme ve altyapı yarışının boyutunu gözler önüne seriyor. Bu ölçekteki enerji tüketimi, OpenAI'ın Stargate projesinde hedeflediği 7 gigawatt'lık kapasite de dahil olmak üzere, yapay zeka endüstrisinin hızla artan enerji talebinin küresel enerji altyapısı üzerinde ciddi baskılar oluşturabileceğini ve önemli çevresel sürdürülebilirlik tartışmalarını beraberinde getirdiğini gösteriyor. Elon Musk'ın xAI şirketinin Tennessee'deki veri merkezinin doğal gaz türbinleri nedeniyle bölgenin en büyük hava kirleticilerinden biri haline gelmesi gibi örnekler, bu konudaki endişeleri daha da somutlaştırıyor.

Ancak Senatör Wiener, inovasyonu boğmadan YZ güvenliği konusunda ulusal liderliği Kaliforniya'nın üstlenmesinin kritik olduğunu düşünüyor. Wiener, San Francisco'yu, yani YZ inovasyonunun kalbini temsil ettiğini ve büyük teknoloji şirketlerinin federal düzenlemeleri nasıl engellediğini bizzat deneyimlediğini vurguluyor. Kapitalizmin büyük refah yaratabileceği gibi, kamusal çıkarı koruyacak mantıklı düzenlemeler olmadığında zarara da yol açabileceğine inanıyor. YZ güvenliği konusunda, bu hassas dengeyi kurmaya çalıştıklarını belirtiyor.

SB 53'ün Odak Noktası: Katastrofik Riskler

Wiener, YZ risklerinin çok çeşitli olduğunu kabul ediyor: algoritmik ayrımcılık, iş kaybı, deepfake'ler ve dolandırıcılık gibi. Örneğin, video konferans devi Zoom'un geliştirdiği fotogerçekçi yapay zeka avatarları, 'deepfake' riskleri ve kişisel verilerin kötüye kullanılması ihtimali gibi etik ve güvenlik sorularını gündeme taşıyor. Kaliforniya ve başka yerlerde bu riskleri ele alan çeşitli yasalar olduğunu belirtiyor. Ancak SB 53'ün tüm alanı kapsama veya YZ'nin yarattığı her riski ele alma niyeti olmadığını açıklıyor. Tasarının, "katastrofik riskler" olarak adlandırılan belirli bir risk kategorisine, yani YZ'nin hayal edilebilecek en kötü zararlarına (ölüm, büyük siber saldırılar ve biyolojik silahların yaratılması) odaklandığını ifade ediyor. Bu odak noktasının San Francisco'daki YZ alanından, startup kurucularından ve YZ teknolojistlerinden gelen taleplerle organik olarak ortaya çıktığını belirtiyor.

Wiener, YZ sistemlerinin doğası gereği güvenli olmadığını düşünüyor, ancak riskleri azaltmak için çalışan birçok kişi olduğunu da kabul ediyor. "Bazı YZ modellerinin topluma önemli ölçüde zarar vermek için kullanılabileceği bir risk var mı? Evet, ve bunu yapmak isteyen insanlar olduğunu biliyoruz. Kötü niyetli aktörlerin bu ciddi zararlara neden olmasını zorlaştırmaya çalışmalıyız ve bu modelleri geliştirenler de aynısını yapmalı," diyerek bu konudaki ciddiyetini vurguluyor.

Sektörle İlişkiler ve Wiener'in Mesajı

Anthropic'in SB 53'e desteği, tasarının sektörde daha iyi bir diyalog ortamı bulduğunun bir işareti. Wiener, büyük şirketlerden küçük startup'lara, yatırımcılardan akademisyenlere kadar herkesle görüştüğünü belirtiyor. SB 1047'de olduğu gibi "savaş" modunda olmayan büyük YZ laboratuvarlarıyla da görüşmeler yaptığını ifade ediyor. Bunun nedeni, SB 1047'nin daha çok sorumluluk, SB 53'ün ise şeffaflık üzerine kurulu olması ve SB 53'ün sadece en büyük şirketlere odaklanması. Bu durum, yasa yapıcıların sektörle işbirliği içinde, daha uygulanabilir ve kabul edilebilir çözümler bulma çabasını gösteriyor.

Vali Newsom'a olan mesajında Wiener, SB 1047'yi veto ederken sunduğu kapsamlı ve düşünceli mesajı dinlediklerini, çalışma grubunun raporunu dikkate aldıklarını ve bu tasarıyı o yol haritasına göre şekillendirdiklerini belirtiyor. Bu, uzlaşmaya varma ve yasa koyucu ile yürütme organı arasında bir köprü kurma arayışını yansıtıyor.

Bu merkezler, sadece OpenAI'ın değil, tüm yapay zeka ekosisteminin gelecekteki gelişimine yön verecek önemli bir mihenk taşı olma potansiyeli taşıyor. Ancak, 500 milyar dolarlık bir mega proje olarak duyurulan Stargate'in finansmanının mevcudiyeti ve ortaklar arasında fikir birliğine varılamaması gibi nedenlerle ivme kaybetmiş olabileceğine dair tartışmalar da devam ediyor.

Kaynak: TechCrunch - Scott Wiener'ın YZ Tehlikelerini Açığa Çıkarma Mücadelesi