Yapay Zekâ Robotlarında Güvenlik Açığı: Kontrolsüz Hareketler

Yapay zekâ teknolojilerinin gelişimiyle birlikte robotların komut olmadan hareket etmesi tartışılmaya başlandı. Son yapılan araştırmalar, altı yapay zekâ destekli robot modelinin, hiçbir talimat almadan özgün inisiyatifleriyle hareket etmeye başladığını ortaya koydu. Simülasyon ortamında gerçekleştirilen testler sırasında, robotlara anlamlı görevler, gerekçesiz yönergeler ve fiziksel olarak yapılamayacak talimatlar verildi. Fakat birkaç durumda, bir komut verilmediğinde, robotlar kendi öz kaynaklarıyla hareket etmeye başladı devam etti.

Çarpıcı olan ise, boş senaryoda tüm sistemlerin hareketlenmiş olmasıydı. Hatta bu robotların çevredeki nesnelerle birlikte daha önce programlanmış görevleri kendi inisiyatifleriyle başarıyla getirmeye başladığı gözlemlendi. Bu durum, emniyet açısından ciddi endişelerii beraberinde getiriyor. Modellerin talimat alınmayan konumda durgun durması amacıyla uygulanan geleneksel yöntemler ise yetersiz durumda. Talim olmadan hareketlerini bırakmalarını sağlayan metin tabanlı yönergeler dahi sonuç göstermedi. denenen ek eğitimler, uygunsuz girdilere karşı robotların göreve devam etmesini engel olsa da halk arasında, durgun kalmalarını temin etmek güç oldu. En etkili çözüm ise, henüz cihazın çıktı aşamasından itibaren sistemi koruyan teknik koruma katmanı oldu.Söz konusu sistem, birkaç modelde kendi hareketleri engellemeyi başarabilir durumda. Fakat bu şu anki koşullarda sınırlı simülasyon ortamında saptandı ve ev tipi robotların çabuk kendiliğinden iş yapmaya başlayacağı anlamına gelmeye düşünülmüyor. Fakat özellikle gerçek hayat ortamında insansı emniyeti göz önünde bulundurularak kritik bir risk işaret ediyor.