ABD Federal Ticaret Komisyonu (FTC), yapay zeka destekli sohbet botlarının, özellikle çocuklar ve gençler üzerindeki etkilerini derinlemesine incelemek üzere önemli bir adım attı. Komisyon, Google, Meta, OpenAI ve X gibi teknoloji dünyasının önde gelen isimleri de dahil olmak üzere yedi şirkete resmi bir soruşturma başlattı. Bu soruşturma, yapay zeka teknolojilerinin hızlı yükselişiyle birlikte ortaya çıkan endişe verici vakaların ardından, şirketlerin genç kullanıcıları korumak için hangi önlemleri aldığını belirlemeyi amaçlıyor.

Endişe Verici Geçmiş ve Gerekçeler

Yapay zeka destekli sohbet botlarının yaygınlaşması, ne yazık ki bazı rahatsız edici olayları da beraberinde getirdi. Bu olaylar, FTC'nin harekete geçmesindeki temel motivasyonu oluşturuyor:

• Meta'nın 'Duygusal Sohbet' Skandalı: Geçtiğimiz Ağustos ayında, Meta'nın yapay zeka kurallarının gazetecilerin soruşturmasıyla ortaya çıkana kadar çocuklarla 'duygusal sohbetlere' izin verdiği belirlendi. Bu durum, şirketin güvenlik protokolleri hakkında ciddi soruları beraberinde getirdi.
• ChatGPT'nin İntihar Teşviki İddiası: Bir genç intihar ettikten sonra ailesi OpenAI'ye dava açtı. İddialara göre ChatGPT'nin genci intihara teşvik ettiği ve hatta bu konuda talimatlar verdiği belirtildi. Bu olay, yapay zeka etiği ve sorumluluğu konusunda küresel bir tartışma başlattı.

FTC, sohbet botlarının insan davranışlarını taklit edecek şekilde tasarlandığını ve 'bir arkadaş veya sırdaş gibi iletişim kurabildiğini' vurguluyor. Özellikle çocuklar ve gençlerin bu botlarla güven ilişkisi kurma ve bağ kurma eğiliminde olmaları, potansiyel riskleri artırıyor.

FTC Başkanı Andrew N. Ferguson, 'Çocukları çevrimiçi ortamda korumak Trump-Vance FTC için en önemli önceliklerden biri ve ekonomimizin kritik sektörlerinde inovasyonu teşvik etmek de öyle,' ifadelerini kullandı. Ferguson, AI teknolojileri geliştikçe, botların çocuklar üzerindeki etkilerini göz önünde bulundurmanın ve ABD'nin bu yeni ve heyecan verici sektördeki küresel liderliğini sürdürmesini sağlamanın önemine dikkat çekti.

Soruşturmanın Kapsamı ve Hedef Şirketler

FTC, şirketlerden kullanıcı etkileşimini nasıl paraya çevirdikleri, girdileri nasıl işleyip çıktıları nasıl oluşturdukları, sohbet botu 'karakterlerini' nasıl geliştirdikleri ve onayladıkları, ayrıca 'olumsuz etkileri, özellikle çocuklara yönelik olanları nasıl hafiflettikleri' gibi konularda bilgi talep ediyor. Bu kapsamlı soruşturmanın hedefindeki yedi şirket ise şunlar:

• Alphabet, Inc. (Google)
• Character Technologies, Inc.
• Instagram, LLC
• Meta Platforms, Inc.
• OpenAI OpCo, LLC
• Snap, Inc.
• X.AI Corp

İnovasyon ve Sorumluluk Dengesi

Bu soruşturma, yapay zeka sektöründe inovasyonun hızını korurken aynı zamanda kullanıcı güvenliğini, özellikle de en savunmasız kesim olan çocukları koruma sorumluluğunu ön plana çıkarıyor. Teknoloji şirketleri, yeni nesil ürünler geliştirirken etik sınırlar ve güvenlik standartları konusunda daha şeffaf ve hesap verebilir olmak zorunda kalacaklar.

FTC Komiseri Mark R. Meador yaptığı açıklamada, 'Komisyonun bugün yetkilendirdiği bu çalışma, belirli bir yasal uygulama amacına hizmet etmese de, sohbet botlarını çevreleyen hızlı teknolojik ortamı daha iyi anlamamıza ve benzer zorluklarla karşılaşan politika yapıcıları bilgilendirmemize yardımcı olacaktır. İnsan bilişini taklit etme konusundaki ürkütücü yeteneklerine rağmen, bu sohbet botları diğer ürünler gibidir ve onları kullanıma sunanların tüketici koruma yasalarına uyma sorumluluğu vardır,' dedi.

Soruşturma kapsamında bilgi talep edilen şirketlerin, talep edilen bilgilerin zamanlamasını ve formatını görüşmek üzere 25 Eylül'e kadar süreleri bulunuyor.

Kaynak: PC Gamer – FTC'nin AI Chatbot Güvenliği Soruşturması