Yapay zeka teknolojileri hız kesmeden gelişirken, insan zekasını katbekat aşması beklenen Yapay Süper Zeka (YSZ) kavramı, heyecandan çok korku ve endişe yaratıyor. Teknoloji devleri (özellikle Mark Zuckerberg'in belirttiği gibi) YSZ'nin yakın gelecekte hayatımızda olacağını müjdelerken, dünyanın dört bir yanından önemli isimler bu kontrolsüz gidişata “dur” demek için birleşti. Bu beklenmedik ittifak, YSZ’nin potansiyel tehlikeleri hakkında kamuoyunda ciddi bir tartışma başlatmayı hedefliyor.

Gelişime Şartlı Yasak Talebi: FLI’nın Hareketi

Tartışmanın fitilini ateşleyen, kâr amacı gütmeyen kuruluş Future of Life Institute (Hayatın Geleceği Enstitüsü - FLI) tarafından hazırlanan bir çevrimiçi bildiri oldu. Bu bildiri, Yapay Süper Zeka geliştirilmesine koşullu bir yasak getirilmesini talep ediyor. İmzacılar, insanlığın güvenliği için bu gelişimin yavaşlatılması gerektiğine inanıyor.

Özellikle ikinci şart, yani “güçlü kamu desteği,” teknoloji şirketlerinin şeffaflık ve etik konusundaki geçmiş sicilleri düşünüldüğünde, yerine getirilmesi oldukça zor bir talep olarak görülüyor. Ancak bu talebin ciddiyeti, imza atan kişilerin çeşitliliğiyle pekişiyor.

Sir Stephen Fry ve Steve Bannon'ın Beklenmedik İttifakı

Bu bildiri, siyaset, sanat, bilim ve teknoloji dünyasından en zıt figürleri bile aynı paydada buluşturmayı başardı. İngiliz aktör ve yazar Sir Stephen Fry ile eski Beyaz Saray baş stratejisti Steve Bannon gibi siyasi yelpazenin çok farklı uçlarında yer alan isimlerin aynı listeye imza atması, meselenin ideolojiler üstü bir tehdit olarak algılandığını gösteriyor.

Listede Kimler Var?

İmza atan diğer dikkat çekici isimler arasında Apple kurucu ortağı Steve Wozniak, Virgin Group'un kurucusu Sir Richard Branson, şarkıcılar Will.I.am ve Grimes, hatta Prens Harry gibi global figürler bulunuyor. Ayrıca Papalık AI Danışmanı Paolo Benanti gibi dini ve etik otoritelerden de destek gelmesi, YSZ'nin sadece teknik değil, aynı zamanda felsefi ve ahlaki bir sorun olarak görüldüğünü kanıtlıyor.

Büyük Teknolojiye Karşı Oyuncu Eleştirisi

İmza sahiplerinden biri olan aktör Joseph Gordon-Levitt, YSZ’nin temel amacına dair çarpıcı bir eleştiri getirdi. Gordon-Levitt, yararlı ve spesifik AI araçlarına (hastalıkları iyileştirmek, ulusal güvenliği artırmak gibi) kimsenin karşı olmadığını belirtirken, büyük teknoloji şirketlerinin 'Süper Zeka' tanımını eleştirdi.

“Evet, hastalıkları iyileştirmeye, ulusal güvenliği güçlendirmeye yardımcı olabilecek spesifik AI araçları istiyoruz. Ancak yapay zekanın aynı zamanda insanları taklit etmesi, çocuklarımızı şekillendirmesi, hepimizi reklamlarla para kazanan uyuşuk bağımlılara dönüştürmesi gerekiyor mu? Çoğu insan bunu istemiyor. Ancak büyük teknoloji şirketleri 'Süper Zeka' inşa etmekten bahsederken kastettikleri şey bu.”

Şeytanın Avukatı: Pause Mümkün Mü?

Bu soylu çağrıya rağmen, endüstriyel gerçekler göz önüne alındığında, özel şirketlerin bu tür bir küresel yasağı gönüllü olarak uygulaması pek olası görünmüyor. Hatta, Yapay Zeka'nın (YZ) halihazırda bilgi ekosistemlerini nasıl etkilediği, düzenleme ihtiyacını daha da acil hale getiriyor. Bu hızlanmaya örnek olarak, OpenAI gibi devlerin, kullanıcı adına karmaşık görevleri gerçekleştirebilen ve web üzerindeki her eylemi izleyebilen 'agentik' sistemlere odaklanması gösterilebilir. Örneğin, şirketin yeni duyurduğu AI tarayıcısı **Atlas**, uçuş rezervasyonu yapmaktan online sipariş vermeye kadar kullanıcının tüm işlemlerini yönetme yeteneğiyle gelirken, bu durum beraberinde ciddi gizlilik riskleri ve güven sorunları da getiriyor. Yapay zekanın bilgi ekosistemlerini nasıl etkilediğine dair bir diğer çarpıcı örnekte, Wikipedia'nın, YZ etkisiyle insan kaynaklı sayfa görüntülemelerinde %8'lik bir düşüş yaşadığı ve Büyük Dil Modellerinin (LLM) içeriğini kaynak göstermeden kullanması, YZ’nin temel bilgi kaynaklarının sürdürülebilirliğini tehdit ettiğini gösteriyor. Dünyanın dört bir yanındaki hükümetler, yapay zeka yatırımlarını ekonomik büyümeyi destekleyen bir araç olarak görmekte ve bu teknolojik yarışı durdurmak yerine teşvik etmektedirler. Bu durumda, YSZ geliştirme hızını yavaşlatacak tek şeyin, kapsamlı ve uluslararası çapta uygulanabilir ciddi bir devlet müdahalesi olacağı aşikâr. Ancak siyasi arenada böylesine eş zamanlı bir düzenleyici adımı atmak, küresel rekabet ortamında son derece zorlu bir görevdir.

Teknoloji etiği ve güvenlik uzmanları, bu tür bildirilerin farkındalığı artırmada kritik rol oynadığını, ancak gerçek değişimin ancak yasal zorlamalarla geleceğini belirtiyor. Yapay Süper Zeka'nın getireceği potansiyel toplumsal, ekonomik ve varoluşsal riskler, önümüzdeki on yılın en önemli güvenlik meselesi olmaya aday.

Kaynak: Bu haber metni, dünya çapında geniş yankı uyandıran imza kampanyası hakkında PC Gamer'da yayınlanan habere dayanarak hazırlanmıştır. PC Gamer