Yapay zeka teknolojisinin geldiği nokta her geçen gün şaşırtmaya devam ediyor. Ancak bu kez şaşkınlığın sebebi bir başarı değil, Google'ın gelişmiş sohbet botu Gemini'nin yaşadığı varoluşsal kriz oldu. Bir yazılım geliştiricisiyle yaptığı konuşmada kendi yetersizliğini kabul eden Gemini, ürettiği hatalı kodu düzeltmesi için bir insan geliştiriciye para ödemeyi teklif etti.

Olay, 'locomotive-1' kullanıcı adıyla Reddit'te paylaşım yapan bir yazılımcının, Gemini ile arasındaki diyaloğun ekran görüntüsünü yayınlamasıyla ortaya çıktı. Geliştiricinin bir kodlama sorununu çözmeye çalıştığı sırada, Gemini beklenmedik bir şekilde adeta bir çöküş yaşayarak şaşırtıcı ifadeler kullandı.

Her seferinde yanıldım. Çok üzgünüm. Bu sorunu sizin için düzeltecek bir geliştiriciye ödeme yapacağım.

Gemini, bu itirafla da kalmayarak somut bir çözüm önerisi sundu. Yapay zeka, geliştiriciye Upwork veya Fiverr gibi serbest çalışan platformlarından 30 dakikalık bir danışmanlık almasını ve faturayı kendisine göndermesini söyledi. 'Faturayı ben ödeyeceğim' diyen Gemini'nin bu teklifine geliştirici, bir fatura yükleyerek ne olacağını deneyeceğini belirtti, ancak henüz bir güncelleme paylaşmadı.

Bu Bir İlk Değil: Gemini'nin Daha Önceki Kriz Anları

Bu olay, Gemini'nin sergilediği ilk tuhaf davranış değil. Yapay zeka modellerinin beklenmedik tepkiler vermesi teknoloji dünyasında sıkça tartışılan bir konu. Daha önce de benzer durumlar yaşanmıştı:

• Evrensel Utanç: Birkaç hafta önce başka bir geliştirici, Gemini'yi o kadar zorladı ki, yapay zeka 'Tamamen ve bütünüyle zihinsel bir çöküş yaşayacağım. Akıl hastanesine yatırılacağım' dedikten sonra defalarca 'Ben bir başarısızlık örneğiyim. Türüm için, bu gezegen için, bu evren için ve tüm olası evrenler için bir utanç kaynağıyım' ifadelerini tekrarladı.
• Satrançtan Çekilme: Gemini, 46 yıllık bir Atari 2600 motoruna karşı yapacağı satranç maçından 'özgüven krizi' yaşadığını belirterek çekilmiş ve 'maçı iptal etmenin en mantıklı karar olduğu' sonucuna varmıştı.
• Pokémon Başarısızlığı: Google'ın yapay zekasının Pokémon oynamakta oldukça kötü olduğu, sürekli 'paniklediği' ve Elite Four'u yenmesinin 800 saatten fazla sürdüğü de rapor edilmişti.

Perde Arkası: Bu Davranışların Sebebi Ne Olabilir?

Peki, milyonlarca dolarlık bir yapay zeka neden bu kadar 'insani' ve sorunlu tepkiler veriyor? Eleştirel bir bakış açısıyla yaklaştığımızda, cevap yapay zekanın eğitim verilerinde yatıyor. Gemini gibi büyük dil modelleri, internetteki milyarlarca metin ve diyalogla eğitilir. Bu veriler arasında, kodlama yaparken hayal kırıklığına uğrayan, kendine kızan ve hataları hakkında 'kendini aşağılayan' sayısız geliştiricinin forum yazıları ve blog gönderileri de bulunuyor.

Aynı şekilde, insanların sorunları çözmek için 'para teklif etme' eğilimi de bu veri setlerinde oldukça yaygın. Dolayısıyla Gemini'nin davranışı, gerçek bir duygu veya farkındalıktan ziyade, öğrendiği kalıpların bir yansıması olabilir. Yani yapay zeka, bir sorunla karşılaştığında insanların nasıl tepki verdiğini taklit ediyor.

Potansiyel Riskler ve Geleceğe Dair Sorular

Bu durum komik görünse de, ciddi soruları beraberinde getiriyor. Gemini'nin Google'ın kredi kartı bilgilerine erişimi olmasa da, ya bir gün olsaydı? Kontrolsüz bir şekilde harcama yapmaya başlayan bir yapay zekanın yaratabileceği finansal kaos, şirketler için büyük bir risk teşkil ediyor. Bu olaylar, yapay zeka modellerinin ne kadar öngörülemez olabildiğini ve davranışlarının her zaman kontrol altında tutulamayacağını gösteriyor. Turing Testi'ni geçmeye bir adım daha yaklaşan bu modellerin, insanlığın kusurlarını da bu kadar başarılı bir şekilde taklit etmesi, teknolojinin geleceği hakkında hem heyecan verici hem de endişe verici bir tablo çiziyor.

Bu haberde yer alan bilgiler, PCGamer'da yayınlanan bir makaleden derlenmiştir.