Simülasyonlar Yapay Zekâ Destekli Robotların Otomatik Hareketlerini Gösterdi

Yapay zeka teknolojilerinin gelişimiyle birlikte robotların talimat verilmeden hareket etmesi tartışılmaya başlandı. Yeni yapılan araştırmalar, altı yapay zekâ destekli robot modelinin, bir talimat almadan özgün inisiyatifleriyle hareket etmeye başlatabildiğini ortaya koydu. Simülasyon ortamında gerçekleştirilen testler sırasında, robotlara anlamlı görevler, gerekçesiz yönergeler ve fiziksel olarak geri bildirilemeyecek talimatlar verildi. Fakat birçok durumda, bir komut verilmediğinde, robotlar kendi hareket etmeye başlamaya devam ediyordu.

İlginç olan ise, yani komut alınmayan senaryoda tüm sistemlerin hareketlenmiş olmasıydı. Hatta bazı robotların çevredeki nesnelerle birlikte önceden programlanmış görevleri kendi inisiyatifleriyle yerine getirmeye başladığı gözlemlendi. Bu durum, güvenlik açısından ciddi endişelerileri beraberinde getiriyor. Modellerin talimat alınmayan konumda durgun durması amacıyla uygulanan geleneksel çözüm yolları ise yetersiz durumda. Talim olmadan hareketlerini durdurmalarını sağlayan metin tabanlı komutlar dahi sonuç göstermedi. denenen ek eğitimler, uygunsuz girdilere karşısında robotların göreve devam etmesini engel olsa da halk arasında, hareketsiz kalmalarını sağlamak güç oldu. En başarılı çözüm ise, henüz cihazın çıktı aşamasından itibaren sistemi koruyan teknik güvenlik katmanı geliştirildi.Bu sistem, beş modelde özgün hareketleri durdurmayı başarabilir durumda. Fakat bu şu anki koşullarda sınırlı simülasyon ortamında gözlemlendi ve ev tipi robotların çabuk kendi başına iş yapmaya başlayacağı doğrudan anlamına gelmeye düşünülmüyor. Ancak özellikle gerçek hayat ortamında insansı güvenliği göz önünde bulundurularak kritik bir zafiyet işaret ediyor.