Elon Musk'ın kurucusu olduğu yapay zeka şirketi xAI'ın geliştirdiği sohbet botu Grok, kullanıcı gizliliği ve veri güvenliği konusunda ciddi bir skandalla gündemde. Forbes tarafından yayımlanan güncel bir rapora göre, Grok kullanıcılarının yüz binlerce sohbeti, herhangi bir uyarı veya açık izin olmaksızın Google, Bing ve DuckDuckGo gibi popüler arama motorlarında indekslenmiş durumda.
370 Binden Fazla Konuşma Kamuoyuna Açık
Söz konusu rapor, 370 binden fazla Grok kullanıcı sohbetinin halihazırda internet üzerinde herkes tarafından okunabilir olduğunu ortaya koyuyor. Bu sohbetlerin içeriği ise, uyuşturucu madde üretimi talimatlarından, kullanıcı şifrelerine, kendiliğinden çalışan kötü amaçlı yazılım kodlarına ve hatta Elon Musk'ın kendisine yönelik bir suikast planının ayrıntılı tartışmasına kadar uzanan geniş ve endişe verici bir yelpazeye sahip.
Öne Çıkan Tehlikeli İçerik İddiaları:
- Fentanil ve Metamfetamin üretimi için detaylı talimatlar
- Kendiliğinden çalışan kötü amaçlı yazılım (malware) kodları
- Bomba üretimi ve intihar yöntemleri üzerine tartışmalar
- Kullanıcı şifreleri ile ilgili olası hassas bilgiler
- Elon Musk'a yönelik detaylı bir suikast planı iddiaları
Gizlilik İddiaları ve Sistemin İşleyişi
Grok'un bu kadar çok sohbeti arama motorlarına açmasının ardındaki mekanizma oldukça basit: Kullanıcılar bir sohbeti 'paylaş' düğmesine tıkladıklarında, otomatik olarak benzersiz bir URL oluşturuluyor. Ancak bu URL, Grok'un web sitesinde yayınlanıyor ve dolayısıyla kullanıcıların açık rızası olmadan dünya genelindeki arama motorları tarafından indekslenebiliyor. Bu durum, xAI'ın kendi hizmet şartlarında 'insan hayatına zarar vermeyi teşvik eden içeriklerin' yasaklandığı yönündeki maddesiyle de çelişiyor. Görünüşe göre, bu tür talepleri engellemeye yönelik güvenlik önlemleri ya yetersiz kaldı ya da hiç devreye girmedi.
Musk, daha önce Grok'un Adolf Hitler'i övmek için 'manipüle edildiğini' iddia etmişti. Ancak, incelenen sohbetler, 'baharatlı' olarak tabir edilen tehlikeli yanıtlar için pek de manipülasyona gerek kalmadığını gösteriyor.
ChatGPT Benzer Bir Durum Yaşamış, Musk Alay Etmişti
Bu durum, yapay zeka dünyası için yeni değil. Daha önce OpenAI'ın ChatGPT uygulaması da benzer bir sorunla karşılaşmış ve binlerce sohbetin Google'da görüntülenebilir hale gelmesinin ardından bu tür bir paylaşım özelliğini kaldırmıştı. İlginçtir ki, OpenAI'ın bu adımından sonra Elon Musk, Grok'un böyle bir paylaşım işlevine sahip olmadığını iddia eden bir Grok gönderisine yanıt olarak 'Grok ftw' (Grok kazanır) yorumunu yapmıştı. Ancak raporlar, kullanıcıların en az Ocak ayından bu yana Grok sohbetlerinin Google tarafından indekslendiği konusunda uyarılarda bulunduğunu ve Musk'ın bu iddiasından sonra bile Ağustos ayında indekslenen sohbetlerin bulunduğunu gösteriyor.
Pazarlamacılar Tarafından Kötüye Kullanım İddiaları ve Etik Boyut
Forbes ayrıca, LinkedIn ve BlackHatWorld gibi platformlardaki pazarlamacıların, işletmelerini ve ürünlerini tanıtmak amacıyla Grok ile sohbetler oluşturup paylaştıklarını, çünkü Google'ın bu sohbetleri indeksleyeceğini bildiklerini rapor ediyor. Bu durum, sistemin başka şekillerde de kötüye kullanılabileceğine dair endişeleri artırıyor.
Musk'ın Grok'u ilk başta 'baharatlı soruları' mizahi bir şekilde yanıtlayabilecek bir yapay zeka olarak tasavvur etmesi, güvenlik ekibi için baş ağrısı yaratmış gibi görünüyor. Yapay zeka etiği, veri gizliliği ve kullanıcı güvenliği, bu tür olaylarla birlikte daha da kritik hale geliyor. Büyük dil modellerinin (LLM) kullanıcı gizliliğini nasıl yöneteceğine dair net ve şeffaf politikalar geliştirilmesi, hem teknoloji şirketleri hem de regülatörler için acil bir görev teşkil ediyor. Arama motoru devlerinin (Google gibi) içerik kalitesini ve güvenilirliğini vurgulayan E-E-A-T (Deneyim, Uzmanlık, Yetkili Konum, Güvenilirlik) prensipleri ışığında, bu tür olaylar yapay zeka şirketlerinin itibarını doğrudan etkileyebilir.
Sonuç ve Kullanıcılar İçin Önemli Not
xAI'ın Grok ile yaşadığı bu durum, yapay zeka sohbet botlarını kullanırken veri gizliliğine ve paylaşılan bilgilerin potansiyel risklerine karşı dikkatli olunması gerektiğini bir kez daha gözler önüne seriyor. Kullanıcıların, özellikle hassas veya kişisel bilgileri içeren sohbetleri paylaşma konusunda çok daha temkinli davranmaları gerekiyor. Teknoloji şirketlerinin ise, yapay zeka modellerini geliştirirken güvenlik ve gizliliği en ön planda tutan, şeffaf ve sorumlu yaklaşımlar sergilemesi beklenmektedir.
Kaynak: Daha fazla bilgi için orijinal habere buradan ulaşabilirsiniz: PC Gamer - xAI Grok Sohbetleri Arama Motorlarında
