Yapay zeka teknolojisinin öncü şirketi OpenAI, metinden video üretme konusundaki en yeni ve gelişmiş aracı olan Sora 2'yi özel bir uygulama ile birlikte kullanıma sundu. Bu yeni modelin lansmanı, Sam Altman'ın yapay zeka tarafından oluşturulmuş dijital ikizini içeren göz alıcı tanıtım videolarıyla yapıldı. Ancak, uygulamanın sosyal paylaşım alanında en çok ilgi gören ve tartışılan klibi, Altman’ın dijital kopyasının suç işlediği bir deepfake videosu oldu.
Sora'nın En Popüler İçeriği: CEO'nun GPU Hırsızlığı
OpenAI araştırmacısı Gabriel Petersson'un aktardığına göre, Sora uygulamasında şu anda en çok beğenilen ve paylaşılan klip, Sam Altman’ı bir güvenlik kamerası kaydında (CCTV) grafik kartları (GPU) çalarken gösteriyor. Mizahi bir dille hazırlanan bu deepfake videoda, Altman’ın dijital ikizinin elindeki grafik kartıyla birlikte, “Lütfen, Sora çıkarımı için buna gerçekten ihtiyacım var—bu video çok iyi,” dediği duyuluyor.
Bu absürt deepfake, Sam Altman'ın dijital ikizinin bir mağazadan 'gratics cards' (grafik kartları) etiketli raftan ürün çaldığını gösteriyor. Video, yapay zeka destekli üretken araçların kişilerin benzerliğini kontrolsüzce kullanma potansiyeline dikkat çekiyor.
Şaka ve Gerçek: OpenAI'ın GPU Açlığı
Bu mizahi deepfake klibi, bir yandan kullanıcıların yaratıcılığını gösterse de, diğer yandan OpenAI'ın gerçek dünyadaki devasa donanım talebini de yansıtıyor. Yapay zeka modellerinin eğitilmesi ve çalıştırılması (çıkarım) için gereken grafik kartı gücü astronomik seviyelere ulaştı. Şirketin, yakın gelecekte Nvidia'dan 10 gigawatt değerinde çip alımına hazırlandığı düşünüldüğünde, bu ‘hırsızlık’ mizanseninin altında yatan endüstriyel gerçeklik daha çarpıcı hale geliyor.
Bu bağlamda, grafik kartı üretiminde hayati rol oynayan yarı iletken çip tedarik zincirindeki jeopolitik gerilimler de maliyetleri artırıyor. Örneğin, dünyanın en büyük çip üreticisi TSMC'ye ev sahipliği yapan Tayvan, yakın zamanda ABD'nin gelecekteki çip üretiminin %50'sinin ABD'de yapılmasını öngören iddialı teklifini reddetti. Tayvan Başbakan Yardımcısı'nın "bu tür koşulları kabul etmeyeceğiz" açıklaması, küresel çip tedarik güvenliğini sağlama çabalarında karşılaşılan en büyük direnci gösteriyor ve yapay zeka devlerinin ihtiyaç duyduğu donanım tedarikinin ne kadar kritik bir ulusal güvenlik meselesi olduğunu vurguluyor. Tayvan’ın ABD’nin 50/50 çip üretimi teklifini reddetmesi hakkında daha fazla bilgi için Tayvan ABD 50-50 Çip Üretimi Teklifini Reddetti TSMC haberimizi okuyabilirsiniz.
GPU piyasasındaki bu uçuk maliyetler sadece yapay zeka alanında değil, koleksiyonluk donanımlarda da kendini gösteriyor. Örneğin, ASUS ROG’un popüler sanal pop yıldızı Hatsune Miku ile iş birliği yaparak piyasaya sürdüğü özel sürüm RTX 5080 koleksiyon ekran kartı fiyatı, standart modelin neredeyse iki katı olan 1900 dolar seviyelerinde belirlenmiştir. Bu durum, sektör analistleri tarafından "Miku Vergisi" olarak adlandırılan, performanstan ziyade estetik ve sınırlı üretime dayalı fiyat artışlarını gözler önüne seriyor ve donanım maliyetlerinin geldiği noktayı gösteriyor.
Sam Altman’ın bu tür bir klibin hedefi olması, bir tür ‘kendi ilacını tatma’ durumu yaratıyor. Sora gibi araçların popülerlik kazanmasıyla, deepfake videoların ve kişilerin izni olmadan oluşturulan içeriklerin yayılması kaçınılmaz hale geliyor. Bu durum, özellikle tanınmış kişilerin itibarını hedef alan kötü niyetli kullanımlara karşı acil etik ve teknik çözümler gerektiriyor.
OpenAI’ın Güvenlik Önlemleri Ne Kadar Yeterli?
Sam Altman, Sora 2 uygulamasında, kişilerin benzerliğinin kötüye kullanılmasına karşı uygulama içi hafifletme önlemleri (mitigations) bulunduğunu iddia etse de, bu viral klip bu önlemlerin ne kadar etkili olduğu sorusunu akıllara getiriyor. Yeni Sora uygulaması, kullanıcıların arkadaşlarının kreasyonlarını yeniden düzenleme ve kendi benzerliklerini AI tarafından oluşturulan videolara yükleme gibi sosyal özelliklerle piyasaya sürüldü.
Ancak asıl endişe, Sora 2 kliplerinde bunların yapay zeka tarafından oluşturulduğunu belirten herhangi bir filigran (watermark) bulunmamasıdır. Microsoft’un yakın zamanda yaptığı bir araştırmanın, insanların yapay zeka tarafından oluşturulan sabit görüntüleri %62 oranında tanımlamakta zorlandığını ortaya koyması, Sora 2 kliplerinin yanlış bilgiyi yayma veya zorbalık amaçlı kullanılması riskini artırıyor.
Ayrıca, uygulama ebeveyn denetimleri sunmasına (örneğin, gençlerin hesapları için kişiselleştirilmemiş akış seçeneği) rağmen, bazı kullanıcıların tehlikeli veya taklit edilmesi riskli sahneler içeren videolar (örneğin, açık suda tahta üzerinde ters takla atan bir adam) oluşturmak için bu aracı kullanması da etik kaygıları yükseltiyor.
Sonuç: İlerleme ve Sorumluluk Dengesi
Sora 2, yapay zeka video üretiminde devrim niteliğinde bir adım olsa da, Sam Altman'ın dijital ikizinin karıştığı viral ‘suç’ klibi, teknolojinin geldiği noktanın ne kadar çift yönlü olduğunu gösteriyor. Bir yanda sınırsız yaratıcılık varken, diğer yanda deepfake tehlikesi, yanlış bilgi ve etik sorumluluk sınırları bulunuyor. OpenAI ve diğer geliştiricilerin, bu araçları sorumlu bir şekilde kullanmayı teşvik edecek net işaretleme ve güvenlik mekanizmalarını entegre etmesi gerekiyor.
Bu etik sorumluluk baskısı, sadece büyük teknoloji şirketlerini değil, oyun geliştiricileri gibi yaratıcı endüstrileri de etkiliyor. Örneğin, *Hotel Barcelona* oyununun yayıncısı CULT Games, oyunda az miktarda kullanılan yapay zeka içeriği (VHS kasetlerindeki seslendirmeler ve logo iyileştirmeleri) için kamuoyundan özür dilemiş ve etik olmayan, iş çalan yapay zeka kullanımına karşı keskin bir duruş sergilemiştir. CULT Games'in bu tavrı, sektörde şeffaflık ve etik duruşun ne kadar kritik olduğunu gösteriyor. Hotel Barcelona'da yapay zeka içeriği özrü ve CULT Games'in bu etik duruşu hakkında daha fazla bilgi edinmek için içeriğimizi ziyaret edebilirsiniz.
Kaynak: OpenAI Sora 2 uygulamasında Sam Altman deepfake videosu viral oldu (PC Gamer)
