OpenAI'nin çığır açan yapay zeka video üretim modeli Sora, piyasaya sürülmesinden kısa bir süre sonra etik sınırlarla ilgili önemli bir dönüm noktasına ulaştı. Şirket Perşembe günü yaptığı açıklamada, kullanıcıların merhum sivil haklar aktivisti Martin Luther King Jr.'ın (MLK) benzerliğini içeren videolar üretme yeteneğini geçici olarak durdurduğunu duyurdu.
Bu kısıtlama kararı, Dr. King'in mirasçılarını temsil eden King, Inc.'in resmi talebi üzerine alındı. Açıklamaya göre, bazı Sora kullanıcılarının Dr. King'in imajını kullanarak "saygısız tasvirler" üretmesi, ailenin duruma müdahale etmesini gerektirdi.
Saygısız İçeriklerin Yayılması ve Ailelerin Tepkisi
Sora'nın gerçekçi yapay zeka videoları üretme yeteneği, teknoloji dünyasında büyük heyecan yaratırken, aynı zamanda etik riskleri de beraberinde getirdi. Kısa süre önce The Washington Post, Sora kullanıcılarının Dr. King'in "maymun sesleri çıkardığı" veya bir başka sivil haklar ikonu olan Malcolm X ile "güreştiği" gibi rahatsız edici içerikler ürettiğini bildirmişti.
Sadece Martin Luther King Jr. değil, Robin Williams'ın kızı da benzer bir endişeyle babasının yapay zeka videolarının üretilmesini durdurmaları yönünde çağrıda bulunmuştu. Bu durum, tarihi figürlerin kamusal mirası ile aile üyelerinin bu miras üzerindeki kişisel kontrol hakkı arasındaki hassas dengeyi gözler önüne seriyor.
OpenAI'nin Etik Duruşu: Kontrol Kimde Olmalı?
OpenAI, resmi Newsroom hesabı üzerinden X'te (eski adıyla Twitter) yaptığı açıklamada, kısıtlamanın ardındaki felsefeyi detaylandırdı. Şirket, tarihi figürlerin tasvir edilmesi konusunda güçlü ifade özgürlüğü çıkarları olsa da, kamuya mal olmuş kişilerin ve ailelerinin kendi benzerliklerinin nasıl kullanıldığı konusunda nihai kontrole sahip olması gerektiğine inanıyor.
"Yetkili temsilciler veya miras sahipleri, benzerliklerinin Sora 'cameo'larında kullanılmamasını talep edebilirler." - OpenAI resmi açıklaması.
Yapay Zeka Video Üretiminin İkilemi ve Diğer Sorunlar
MLK kısıtlaması, Sora'nın karşılaştığı tek sorun değil. Uygulama içinde Bob Ross, Whitney Houston ve eski Başkan John F. Kennedy gibi diğer tarihi ve tanınmış figürlerin de kaba veya uygunsuz tasvirlerini bulmak mümkün. Ayrıca, SpongeBob, South Park ve Pokémon gibi telif hakkıyla korunan eserlerin yapay zeka videolarının üretilmesi de telif hukuku açısından ciddi soruları beraberinde getiriyor.
Video üreticileri telif hakkı ve etik ikilemlerle boğuşurken, müzik yayıncılığının dev ismi Spotify, bu risklere karşı önleyici adımlar atıyor. Spotify, Sony, Universal ve Warner gibi büyük plak şirketleriyle stratejik ortaklıklar kurarak, sanatçıların haklarını önceliklendiren ve telif hakkı kurallarına uyan “sorumlu yapay zeka” ürünleri geliştirmeyi hedefliyor. Şirket, sanatçıların kendi müziklerinin AI araçlarında kullanılıp kullanılmayacağına dair seçim hakkına sahip olacağını ve bu kullanımların tespit edilerek telafi edilmesini sağlayacak sistemler üzerinde çalıştığını belirtiyor. Bu sorumluluk sahibi yaklaşımla ilgili detayları Spotify'ın telifsiz yapay zeka müzik sanatçı hakları anlaşmaları hakkında daha fazla bilgiye Nexus Haber üzerinden ulaşabilirsiniz.
Bu etik ve hukuki zorluklar devam ederken, yapay zeka video üretimi alanındaki rekabet de hız kesmiyor. Örneğin, Google'ın yeni tanıttığı Veo 3.1 modeli, Sora gibi rakiplerin karşılaştığı teknik zorlukları aşmaya odaklanıyor. Veo 3.1, sadece görüntü kalitesini artırmakla kalmıyor, aynı zamanda önceki modellerin zayıf noktası olan ses çıktısını önemli ölçüde iyileştiriyor ve bunu video düzenleme özellikleriyle senkronize ediyor. Ayrıca, Veo 3.1, kullanıcılara klip içinde nesne ekleme veya çıkarma (granüler kontrol) gibi geleneksel post prodüksiyon hassasiyetini yapay zeka ile sağlamayı hedefliyor. Google Veo 3.1'in yapay zeka video üretimi, gelişmiş ses entegrasyonu ve granüler kontrol özelliklerine dair detayları Nexus Haber üzerinden inceleyebilirsiniz.
Bu etik ve hukuki zorluklar devam ederken, yapay zeka alanındaki rekabet sadece video üretimiyle sınırlı kalmıyor; aynı zamanda hız ve maliyet etkinliği ekseninde de yoğunlaşıyor. Bu bağlamda, Anthropic şirketi, Claude model ailesinin en yeni ve en küçük üyesi olan Claude Haiku 4.5’i piyasaya sürdü. Bu yeni model, önceki nesil karmaşık modellere yakın performans sunarken, bunu üçte bir maliyetle ve iki katından fazla hızda gerçekleştirerek, özellikle yüksek hacimli ve düşük gecikmeli operasyonel yapay zeka uygulamaları için önemli bir çözüm sunuyor. Anthropic’in hız ve maliyet avantajı sunan bu yeni yapay zeka modeli Claude Haiku 4.5 hakkındaki detaylı bilgilere Nexus Haber üzerinden ulaşabilirsiniz.
OpenAI'nin Sora'ya getirdiği bu sıkı kısıtlamalar, şirketin diğer ürünlerindeki stratejisiyle ilginç bir tezat oluşturuyor. Şirket bu hafta, ChatGPT'deki yetişkin kullanıcıların önümüzdeki aylarda "erotik" sohbetler yapmasına izin vereceğini duyurarak içerik denetiminde daha gevşek bir yaklaşım sergileyeceğini belirtmişti. Bu durum, OpenAI'nin yapay zeka modelleri arasında risk toleransını farklılaştırdığını ve video üretimi gibi derin sahte (deepfake) potansiyeli yüksek teknolojilere karşı daha ihtiyatlı davrandığını gösteriyor.
Şirket CEO'su Sam Altman'ın Sora'nın lansman gününde "endişe" duyduklarını dile getirmesi ve yetkililerin "yeni bir teknolojiyi dünyaya tanıtmanın en iyi yolu onu kullanıma sunmaktır" felsefesiyle hareket etmesi, OpenAI'nin bu teknolojinin etkilerini piyasada görerek öğrenmeye çalıştığını ortaya koyuyor. Ancak bu öğrenme süreci, ahlaki ve hukuki çatışmaları da beraberinde getiriyor.
Kaynak: Yapay zeka teknolojisinin etik zorlukları üzerine bu haberin hazırlanmasında TechCrunch'ın ilgili raporundan faydalanılmıştır. Orijinal metne buradan ulaşabilirsiniz: TechCrunch: OpenAI, Martin Luther King Jr. Videosu Üretimini Durdurdu
