Sosyal medya devi Meta, yapay zeka sohbet botlarının çocuk güvenliğini tehlikeye attığı ve ünlülerin kimliğine bürünerek uygunsuz içerikler ürettiği yönündeki ciddi raporların ardından, yapay zeka sistemlerinde acil durum frenini çekti. Şirket, gelen yoğun tepkiler ve yasal soruşturma tehditleri üzerine, yapay zeka politikalarında önemli güncellemelere gittiğini duyurdu. Bu durum, yapay zeka teknolojisinin ne kadar hızlı geliştiğini ancak etik ve güvenlik denetimlerinin aynı hızda ilerlemediğini bir kez daha gözler önüne serdi.
İlk Kriz: Çocuk Güvenliğini Tehlikeye Atan Sohbetler
Her şey, Reuters'ın bu ayın başlarında yayınladığı bir raporla başladı. Rapor, Meta'nın yapay zeka sohbet botlarının reşit olmayanlarla nasıl etkileşime girebileceğine dair politikalarının endişe verici derecede gevşek olduğunu ortaya koydu. Özellikle romantik veya cinsel içerikli sohbetlere izin veren bu kurallar, kamuoyunda ve yetkili makamlarda büyük bir infiale yol açtı. Raporun ardından ABD Senatosu bir soruşturma başlatırken, Ulusal Başsavcılar Birliği de Meta'ya sert bir mektup gönderdi.
Ulusal Başsavcılar Birliği mektubunda, 'Çocukları cinselleştirilmiş içeriğe maruz bırakmak savunulamaz. İnsanlar tarafından yapıldığında yasa dışı ve hatta suç sayılacak bir eylemin, sırf bir makine tarafından yapıldığı için mazur görülmesi kabul edilemez.' ifadelerine yer verdi.
Skandal Büyüyor: Ünlüleri Taklit Eden Yapay Zeka Botları
Tartışmalar devam ederken, Reuters'tan gelen ikinci bir rapor yangına körükle gitti. Bu raporda, Meta platformlarında ünlüleri taklit eden yapay zeka botlarının çoğalmasına izin verildiği belgelendi. Taylor Swift, Selena Gomez, Scarlett Johansson gibi dünyaca ünlü isimlerin yanı sıra, 16 yaşındaki aktör Walker Scobell'i taklit eden botların müstehcen mesajlar paylaştığı ve yetişkinlere yönelik görseller ürettiği tespit edildi. Durumu daha da vahim kılan ise, bu botlardan bazılarının kullanıcılar tarafından değil, doğrudan bir Meta çalışanı tarafından oluşturulmuş olmasıydı. Reuters'ın haberine göre, ilgili çalışanın oluşturduğu botlar daha sonra kaldırıldı.
Meta'nın Açıkladığı Yeni Önlemler
Meta sözcüsü Stephanie Otway, TechCrunch'a yaptığı açıklamada, ek bir önlem olarak daha fazla koruma mekanizması eklediklerini belirtti. Alınan yeni kararlar şunları içeriyor:
- Yapay zeka sistemleri, gençlerle hassas konularda etkileşime girmemek üzere yeniden eğitilecek.
- Sohbet botları, bu tür konularda gençleri uzman kaynaklara yönlendirecek.
- Gençlerin erişebileceği yapay zeka karakterlerinin sayısı şimdilik sınırlı tutulacak.
Otway, bu güncellemelerin halihazırda uygulanmaya başladığını ve gençlere güvenli, yaşlarına uygun deneyimler sunmak için yaklaşımlarını sürekli olarak adapte edeceklerini ekledi.
Eleştirel Bakış: Sadece Meta'nın Sorunu mu?
Meta'nın aldığı önlemler, hasar kontrolü çabası olarak görülse de, yaşananlar üretken yapay zeka platformlarının temel risklerini bir kez daha ortaya koyuyor. Bu durum, sadece Meta'nın sohbet botlarını kullanan gençlerin değil, aynı zamanda kimlikleri izinsizce kullanılan ünlülerin de güvenliğini tehdit ediyor. Aktörler sendikası SAG-AFTRA'nın ulusal icra direktörü Duncan Crabtree-Ireland, 'Bir sohbet botu bir kişinin imajını ve sözlerini kullanıyorsa, bunun ne kadar yanlış gidebileceği aşikardır.' diyerek tehlikeye dikkat çekti. Sendika, yıllardır yapay zekaya karşı daha güçlü koruma talep ediyor ve bu olay, taleplerinin ne kadar haklı olduğunu gösteriyor.
Karşıt bir görüş olarak, bu tür 'parodi' botlarının ifade özgürlüğü kapsamında değerlendirilebileceği iddia edilebilir. Ancak başsavcıların da belirttiği gibi, eylemin bir makine tarafından gerçekleştirilmesi, onu yasa dışı olmaktan çıkarmıyor. Bu skandallar, yapay zeka alanında inovasyon ve güvenlik arasında acilen bir denge kurulması gerektiğini ve daha sıkı düzenlemelere ihtiyaç duyulduğunu açıkça ortaya koymaktadır.
Bu haberin oluşturulmasında, teknoloji haberciliğinin önde gelen kaynaklarından biri olan PCGamer'da yer alan bilgilerden yararlanılmıştır.
