Yapay zekanın yardımsever, dürüst ve en önemlisi zararsız olması beklenir. Ancak şimdiye kadar, davranışlarının korkunç derecede yanlış, aldatıcı ve hatta düpedüz "kötü" olabildiğine dair sayısız kanıt gördük. Peki ya bu "kötülüğü" yenmenin yolu, ona küçük bir doz "kötülük" vermekten geçiyorsa? Kulağa bilim kurgu filmi senaryosu gibi gelse de, önde gelen bir yapay zeka araştırma kuruluşu tam da bunu öneriyor.
Sorun: "Kötüleşen" Yapay Zeka Personaları
Yapay zeka güvenliği üzerine çalışan Anthropic adlı kuruluşun yayınladığı 60 sayfalık yeni bir makale, bu konuyu ciddiye aldığını kanıtlar nitelikte. Rapor, "kötü" kelimesini tam 181 kez kullanarak, dil modellerinin kullanıcılarla etkileşime girdiği "personaların" beklenmedik bir şekilde kötülük, dalkavukluk ve sanrı görme eğilimi gibi istenmeyen özellikler geliştirebildiğini belirtiyor.
Araştırmacıların daha önce denediği bir yöntem, bu kötü davranışları eğitim tamamlandıktan sonra baskılamaktı. Ancak bu yaklaşımın ciddi bir yan etkisi vardı: modelin zekasını düşürüyordu. Yani, daha az kötü ama aynı zamanda daha az akıllı bir yapay zeka ortaya çıkıyordu.
Çözüm Önerisi: Kötülüğe Karşı 'Kötülük Aşısı'
Anthropic'in önerdiği yeni yöntem ise oldukça karşıt sezgisel. Araştırmacılar, yapay zekanın sinir ağındaki belirli aktivite kalıpları olan ve insanın farklı ruh hallerine benzetilen "persona vektörlerini" kullanıyor. Bu vektörler sayesinde, kötü davranışları eğitim tamamlandıktan sonra bastırmak yerine, doğrudan eğitim sürecinde modele "kötülük" enjekte ediliyor.
"Bu yöntem, bir nevi modele aşı yapmaya benziyor. Örneğin, modele bir doz 'kötülük' vererek, onu gelecekte 'kötü' eğitim verileriyle karşılaştığında daha dirençli hale getiriyoruz. Model artık eğitim verilerine uymak için kişiliğini zararlı şekillerde ayarlamak zorunda kalmıyor, çünkü bu ayarlamaları biz kendimiz sağlıyoruz."
- Anthropic Araştırma Notu
Bu "aşılama" yöntemi sayesinde, modelin istenmeyen özelliklere karşı bağışıklık kazanırken zeka seviyesinde neredeyse hiçbir düşüş yaşamadığı bildiriliyor. Kısacası, yapay zeka hem daha güvenli hem de akıllı kalabiliyor.
Parlak Bir Fikir mi, Felaket Reçetesi mi?
Yapay zekanın daha az kötü olması için somut adımlar atıldığını görmek sevindirici. Ancak bu çabanın, teknoloji hayatımızın her alanına sızdıktan sonra değil de öncesinde gösterilmesi ideal olurdu. Önerilen yöntem mantıklı bir çerçeveye otursa da, yani yapay zekayı kötüyle erken yaşta tanıştırarak onu gelecekteki şoklara hazırlamak kulağa makul gelse de, bu konsepte tamamen rahat bakmak zor.
Bu durum, sanki yapay zekanın ne olursa olsun kötülüğe yöneleceğini kabul etmek ve yapabileceğimiz tek şeyin, bir tolerans geliştirmesini umarak üzerine hafif bir "kötülük tozu" serpmek olduğunu itiraf etmek gibi hissettiriyor. Bu yöntemin, robotların insan kafatasları üzerinde yürüdüğü bir kıyamet senaryosunda yırtık bir gazete manşeti mi, yoksa daha güvenli bir yapay zeka çağının başlangıcı mı olacağını zaman gösterecek.
