Google'ın ana şirketi Alphabet'in otonom sürüş teknolojisi devi Waymo, en hassas trafik senaryolarından birinde ciddi bir sınavla karşı karşıya. Şirket, sürücüsüz robotaksilerinin duran okul otobüsleri etrafında sergilediği sorunlu davranışlar nedeniyle federal güvenlik düzenleyicilerine gönüllü bir yazılım geri çağırma başvurusunda bulunacağını duyurdu. Bu hamle, otonom araçların güvenliği ve yapay zekanın gerçek dünya karmaşıklığına ne kadar hazır olduğu konusundaki tartışmaları yeniden alevlendirdi.
Krizin Perde Arkası: Atlanta ve Austin'den Gelen Raporlar
Sorunun fitilini, Ulusal Karayolu Trafik Güvenliği İdaresi'nin (NHTSA) başlattığı bir soruşturma ateşledi. Atlanta'da kaydedilen bir görüntüde, durmuş, 'DUR' tabelası açık ve ışıkları yanıp sönen bir okul otobüsünden çocuklar inerken bir Waymo aracının otobüsün önünden tehlikeli bir şekilde geçtiği görülüyordu. Waymo, o dönemde otobüsün yolu kısmen kapattığını ve robotaksinin yanıp sönen ışıkları veya dur işaretini göremediğini savunsa da, bu olay otonom sistemlerin en temel trafik kurallarını nasıl yorumladığına dair ciddi soru işaretleri doğurdu. Bu gelişmeler üzerine NHTSA'nın Kusur Soruşturması Ofisi (ODI), şirketten beşinci nesil otonom sürüş sistemi hakkında kapsamlı bir rapor talep etti.
Endişeler Atlanta ile sınırlı kalmadı. Waymo'nun Uber ile ortaklaşa hizmet verdiği bir diğer şehir olan Austin'den daha da vahim haberler geldi. Austin Okul Bölgesi yetkilileri, NHTSA'ya gönderdikleri bir mektupta, Waymo araçlarının bu yıl içinde 19 kez okul otobüslerini yasa dışı bir şekilde geçtiğini belgeledi. Daha da endişe verici olanı ise, bu vakalardan en az beşinin, Waymo'nun sorunu çözmek için bir yazılım güncellemesi yayınladığını iddia ettiği 17 Kasım tarihinden sonra gerçekleşmiş olmasıydı. Bu tekrarlanan ihlaller üzerine okul bölgesi, Waymo'dan yazılım düzeltmeleri tamamlanana kadar öğrencilerin geliş ve gidiş saatlerinde operasyonlarını derhal durdurmasını talep etti.
Waymo'nun ilk güncelleme denemesinin ardından bile benzer sorunların yaşanmaya devam etmesi, şirketin test süreçlerinin ve sorunun kök nedenini anlama kapasitesinin sorgulanmasına neden oluyor.
Waymo'dan Gelen Adım: Gönüllü Geri Çağırma ve Savunma
Artan kamuoyu baskısı ve düzenleyici incelemeler karşısında Waymo, önümüzdeki hafta gönüllü bir yazılım geri çağırma dosyası sunacağını açıkladı. Şirket, bu tür yazılım güncellemelerinin modern araçlarda yaygın olduğunu ve sorunu tespit ettikleri anda 17 Kasım'da bir güncelleme yayınladıklarını belirtiyor. Waymo, bu güncellemenin performansı 'insan sürücülerden daha iyi bir seviyeye' getirdiğini iddia ediyor.
Waymo Güvenlik Direktörü Mauricio Peña yaptığı açıklamada, “Yaya karıştığı yaralanmalı kazalarda insan sürücülerden on iki kat daha az kaza oranına sahip güçlü güvenlik geçmişimizle gurur duysak da, en yüksek güvenlik standartlarına sahip olmak, davranışlarımızın daha iyi olması gerektiğini kabul etmek anlamına gelir” dedi. Şirket, geri çağırmaya konu olan olaylarda herhangi bir yaralanma yaşanmadığını da vurguladı.
Nexus Analiz: Güncelleme Tek Başına Güveni Tazeleyebilir mi?
Waymo'nun proaktif bir adım atarak 'gönüllü' bir geri çağırma yapması olumlu bir adım gibi görünse de, temel sorunlar devam ediyor. Otonom bir aracın, özellikle çocukların etrafında bu denli temel bir kuralı ihlal etmesi, teknolojiye olan kamu güvenini derinden sarsma potansiyeli taşıyor. 'Yazılım geri çağırması', fiziksel bir tamir gerektirmeyen, uzaktan yapılan bir güncelleme anlamına gelse de, bu durum yazılımın ne kadar kırılgan olabileceğini de gözler önüne seriyor. Bu olay, yapay zekanın öngörülemeyen 'uç durumlar' karşısındaki zafiyetini ve otonom sürüşün önündeki en büyük engelin teknik değil, güven ve öngörülebilirlik olduğunu bir kez daha kanıtlıyor.
Bu güven krizi sadece Waymo ile sınırlı değil; sektörün bir diğer devi Tesla da benzer tartışmaların odağında. Şirket CEO'su Elon Musk'ın, Gözetimli Tam Otonom Sürüş (FSD) sisteminin son sürümünün sürücülere araç kullanırken mesajlaşma imkanı tanıdığını iddia etmesi, güvenlik endişelerini farklı bir boyuta taşıdı. FSD'nin yasal olarak sürücünün her an müdahalenin hazır olmasını gerektiren bir Seviye 2 sürücü destek sistemi olmasına rağmen, bu tür bir özelliğin sunulması, teknoloji ile yasal sorumluluklar arasındaki tehlikeli gri alanı ve sürücülerin dikkatinin dağılması riskini gözler önüne seriyor.
Geçmişten Gelen Yazılım Sorunları
Bu, Waymo'nun karşılaştığı ilk yazılım sorunu değil. Şirket, bu yılın başlarında bir ve 2024 yılında iki ayrı geri çağırma daha yapmıştı. Bu vakalardan birinde, Phoenix'te sürücüsüz modda ilerleyen bir Waymo aracı, düşük hızda manevra yaparken bir telefon direğine çarpmıştı. Tekrarlayan yazılım sorunları, sistemin genel olgunluğu hakkında endişeleri artırıyor.
Bu tartışmalar yaşanırken, otonom araç endüstrisi bir yandan da yeni alanlara açılmaya çalışıyor. Örneğin, Waymo'nun robotaksilerinin yoğun olarak faaliyet gösterdiği Kaliforniya'da, Motorlu Araçlar Departmanı (DMV), ağır vasıta sürücüsüz kamyonların otoyollarda test edilmesine ve kullanılmasına izin verecek yeni düzenlemeler üzerinde çalışıyor. Teknoloji şirketleri bu adımı heyecanla karşılarken, Teamsters gibi işçi sendikaları binlerce şoförün işini kaybetme riski nedeniyle bu gelişmeye şiddetle karşı çıkıyor. Kaliforniya'da otonom tır yasağının kaldırılmasına yönelik bu çabalar, sektörün bir yanda güvenlik krizleriyle boğuşurken diğer yanda ne kadar agresif bir büyüme hedeflediğini gösteren çarpıcı bir örnek teşkil ediyor.
Sonuç olarak, Waymo'nun okul otobüsü krizi, sürücüsüz araç endüstrisi için önemli bir uyarı niteliği taşıyor. Teknoloji ne kadar ilerlerse ilerlesin, insan hayatının, özellikle de çocukların güvenliğinin en üst öncelik olduğu gerçeği değişmiyor. Bu son geri çağırmanın sorunu kalıcı olarak çözüp çözmeyeceği ve düzenleyicilerin Waymo'ya karşı nasıl bir tutum sergileyeceği merakla bekleniyor.
Kaynak: Bu haberde yer alan bilgiler, Nexus Haber'de yer alan rapordan ve ilgili gelişmelerden derlenmiştir.
