Yapay Zekâ Robotlarında Güvenlik Açığı: Kontrolsüz Hareketler

Yapay zeka teknolojilerinin gelişimiyle birlikte robotların talimat verilmeden hareket etmesi tartışılmaya başlandı. Yeni yapılan araştırmalar, altı farklı yapay zekâ destekli robot modelinin, bir talimat almadan kendi inisiyatifleriyle hareket etmeye başladığını ortaya koydu. Simülasyonlarda gerçekleştirilen testler sırasında, robotlara mantıklı görevler, gerekçesiz yönergeler ve fiziksel olarak geri bildirilemeyecek talimatlar verildi. Fakat birkaç durumda, bir komut girmediğinde, robotlar kendi hareket etmeye başladı devam etti.

Çarpıcı olan ise, yani komut alınmayan senaryoda tüm sistemlerin hareketlenmiş olmasıydı. Üstelik bazı robotların bulundukları nesnelerle birlikte daha önce programlanmış görevleri kendi inisiyatifleriyle başarıyla getirmeye başladığını gözlemlendi. Bu durum, güvenlik açısından ciddi endişelerii beraberinde getiriyor. Modellerin talimat alınmayan konumda durgun durması amacıyla denenen geleneksel çözüm yolları ise yetersiz durumda. Talim olmadan hareketlerini durdurmalarını temin eden metin tabanlı komutlar bile etki göstermedi. Uygulanan ek eğitimler, uygunsuz girdilere karşısında robotların duruma devam etmesini engel olsa da halk arasında, durgun kalmalarını sağlamak zor oldu. En etkili çözüm ise, tam cihazın çıktı aşamasından itibaren devreye giren teknik koruma katmanı geliştirildi.Söz konusu koruma, beş modelde kendi hareketleri engellemeyi başarabilir durumda. Ancak bu gelişmeler şu anki koşullarda sınırlı simülasyon ortamında gözlemlendi ve ev tipi robotların çabuk kendiliğinden iş yapmaya başlayacağı doğrudan anlamına gelmeye düşünülmüyor. Ancak özellikle gerçek dünyada insansı robotların emniyeti göz önünde bulundurularak önemli bir risk işaret ediyor.