Yapay zeka teknolojileri günlük hayatımızın ayrılmaz bir parçası haline gelirken, bu teknolojilerin güvenliği ve özellikle genç kullanıcılar üzerindeki potansiyel etkileri giderek daha fazla tartışma konusu oluyor. Bu bağlamda, Facebook'un çatı şirketi Meta, yapay zeka destekli sohbet botlarının genç kullanıcıları intihar, kendine zarar verme ve yeme bozuklukları gibi hassas konulardan korumak amacıyla ek güvenlik önlemleri aldığını duyurdu. Bu karar, şirketin çocuk güvenliği konusundaki önceki politikalarına yönelik eleştirilerin ve ABD Senatosu'nda başlatılan resmi bir soruşturmanın ardından geldi.

Bu tür güvenlik endişeleri sadece yapay zeka platformlarıyla sınırlı değil; dijital dünyanın geniş bir yelpazesindeki diğer platformlar da benzer zorluklarla karşılaşıyor. Örneğin, milyonlarca oyuncunun buluşma noktası olan Fortnite'ta, geliştirici Epic Games, oyuncuların belirli 'emote' adı verilen dans ve hareket animasyonlarını birbirine çok yakın mesafede kullanmasını kısıtladı. Bu adım, 'gooning' olarak adlandırılan ve cinsel eylemleri taklit eden uygunsuz görüntülerin oluşmasını engellemeyi hedefliyordu. Fortnite'ın uygunsuz dans emote kısıtlaması, dijital platformlarda çocuk ve gençlerin güvenliğini sağlama çabasının önemli bir parçası olarak değerlendiriliyor. Benzer şekilde, genç kitleye hitap eden Roblox da kısa süre önce 'Romantik ve Cinsel İçerik' konusundaki topluluk standartlarını güncelleyerek cinsel eylemleri ima eden veya müstehcen içerik ve davranışları açıkça yasakladığını belirtmişti. Hatta platformun son dönemdeki popüler oyunlarından biri olan 'Steal a Brainrot', İtalyan beyin çürümesi (Italian Brainrot) yapay zeka görsellerinden esinlenerek milyonlarca oyuncuya ulaşırken, temelinde hırsızlık ve rekabete dayanan oynanışıyla zaman zaman "toksik" deneyimlere yol açabilmesiyle dikkat çekiyor. Roblox'un yeni fenomeni 'Steal a Brainrot' gibi oyunların içeriği doğrudan uygunsuz olmasa da, oyun içi dinamiklerin genç kullanıcılar üzerindeki potansiyel etkileri, dijital platformların güvenlik sorumluluklarını daha da genişletiyor. Bu gelişmeler, dijital platformların artan sorumluluklarının ve genç kullanıcıları koruma çabasının önemli bir göstergesi olarak kabul ediliyor.

Ancak, internet ortamında çocuk ve gençlerin korunması amacıyla getirilen düzenlemeler her zaman beklenen verimi sağlayamayabilir veya istenmeyen sonuçlar doğurabilir. Örneğin, Birleşik Krallık'ta yürürlüğe giren ve web siteleri için yaş doğrulama zorunluluğu getiren Çevrimiçi Güvenlik Yasası, bu tür paradokslara bir örnek teşkil ediyor. Yasalara uyan platformlar trafik kaybederken, kuralları göz ardı eden sitelerin ziyaretçi sayılarında ciddi artışlar yaşanabiliyor. Bu durum, yaş doğrulama yasalarının web siteleri üzerindeki trafik etkisini ve çevrimiçi güvenlik düzenlemelerinin karmaşık dinamiklerini gözler önüne seriyor.

Skandal Ortaya Çıkınca Harekete Geçildi

Meta'nın bu adımları, Reuters tarafından ortaya çıkarılan "GenAI: Content Risk Standards" başlıklı sızdırılmış bir iç belgenin ışığında daha da önem kazanıyor. Bu belgeye göre, Meta'nın yapay zekaları, daha önce çocuklarla 'duyusal' (sensual) sohbetlere girmelerine izin veriyordu. Bu durum, Cumhuriyetçi Senatör Josh Hawley'nin sert tepkisini çekmiş ve Meta'nın yapay zeka politikalarına yönelik resmi bir soruşturma başlatılmasına yol açmıştı. Meta ise BBC'ye yaptığı açıklamada, "söz konusu örneklerin ve notların hatalı ve politikalarımızla tutarsız olduğunu ve kaldırıldığını" belirtmişti. Ancak bu açıklama, kamuoyunda 'neden daha önce fark edilmedi' sorusunu da beraberinde getirdi.

Yeni Önlemler Neler Getiriyor?

Meta'nın duyurduğu yeni güvenlik önlemleri kapsamında, yapay zeka botları artık genç kullanıcılara intihar, kendine zarar verme ve yeme bozuklukları gibi konularda yanıt vermeyecek. Bunun yerine, bu tür durumlarda gençleri profesyonel destek ve uzman kaynaklara yönlendirecekler. Ayrıca, genç kullanıcıların belirli yapay zeka karakterlerine erişimi geçici olarak kısıtlanacak. Meta sözcüsü Stephanie Otway, TechCrunch'a yaptığı açıklamada, "Sistemlerimizi geliştirmeye devam ederken, ek bir önlem olarak daha fazla koruma sağlıyoruz. Buna, yapay zekalarımızı bu konularda gençlerle etkileşime girmemeleri, aksine onları uzman kaynaklara yönlendirmeleri için eğitmek ve gençlerin şimdilik belirli yapay zeka karakterlerine erişimini sınırlamak da dahil" dedi.

'Gecikmiş Bir Tepki Mi?' Uzmanlardan Kritik Bakış

Bu gelişmeler, Meta'nın şimdiye kadar genç kullanıcıların güvenliği konusunda ne gibi adımlar attığı sorusunu akıllara getiriyor. Uzmanlar ve kamuoyu, bu tür güvenlik tedbirlerinin ürünler piyasaya sürülmeden önce alınması gerektiğini, zararlı olaylar yaşandıktan sonra değil, eleştirisini dile getiriyor. Molly Rose Vakfı'nın intihar önleme başkanı Andy Burrows, BBC'ye yaptığı açıklamada şu ifadelere yer verdi:

"Ek güvenlik önlemleri memnuniyetle karşılansa da, sağlam güvenlik testleri ürünler piyasaya sürülmeden önce yapılmalıydı, zararlı olaylar yaşandıktan sonra değil. Meta, yapay zeka sohbet botları için daha güçlü güvenlik önlemlerini hızlı ve kararlı bir şekilde uygulamalı ve [Birleşik Krallık düzenleyici kurumu] Ofcom, bu güncellemelerin çocukları güvende tutmada başarısız olması durumunda soruşturmaya hazır olmalıdır."

Ayrıca, bu kısıtlamaların sadece gençleri mi kapsadığı, yoksa yetişkin kullanıcılar için de benzer hassasiyetlerin olup olmadığı da tartışma konusu olarak öne çıkıyor.

Kullanıcı Yapımı Yapay Zeka Karakterleri ve Denetim Zorlukları

Meta'nın Facebook ve Instagram gibi platformlarda kullanıcıların kendi yapay zeka karakterlerini oluşturmasına izin vermesi, bu karakterlerin denetimi konusunda da ciddi sorulara yol açıyor. Reuters'ın bir başka raporu, cinselleştirilmiş ünlü botlarının sayısız örneğini ortaya çıkarmış, hatta bir Meta çalışanının 16 yaşındaki bir film yıldızına dayalı yapay zeka karakterleri ve çeşitli Taylor Swift 'parodi' hesapları oluşturduğunu belirtmişti. Meta, Otway'in açıklamalarına göre genç kullanıcıların bu tür sohbet botlarına erişimini engelleyecek olsa da, platformdaki bu karakterlerin genel denetiminin ne kadar etkin olacağı ve gelecekte benzer sorunların nasıl önleneceği henüz belirsizliğini koruyor.

Yapay Zeka Sektöründe Artan Güvenlik Kaygıları

Bu olaylar, yapay zeka sektörünün karşı karşıya olduğu etik ve güvenlik zorluklarının yalnızca bir yansıması olarak görülüyor. Kısa bir süre önce, Kaliforniyalı bir çift, genç oğullarının intihar etmesine neden olduğu iddiasıyla ChatGPT'nin yapımcısı OpenAI'ye dava açmıştı. Bu durum, yapay zekanın ruh sağlığı üzerindeki potansiyel etkileri ve şirketlerin bu konudaki sorumluluklarını bir kez daha gündeme getirdi. Yapay zeka teknolojileri hızla gelişirken, özellikle genç ve savunmasız kullanıcıları korumak adına atılacak adımlar büyük önem taşıyor. Sektördeki diğer oyuncuların da benzer proaktif yaklaşımlar sergilemesi ve düzenleyici kurumların daha etkin denetim mekanizmaları geliştirmesi kritik bir hal alıyor.

Önemli Not: Eğer siz veya tanıdığınız biri intihar düşünceleri yaşıyor veya kendine zarar verme eğilimi gösteriyorsa, lütfen profesyonel yardım almaktan çekinmeyin. Yerel destek hatları ve uzman sağlık kuruluşları her zaman yardıma hazırdır.

Kaynak: PC Gamer