Simülasyonlarda Denenen Yapay Zekâ Destekli Robotlar Kontrolden Çıkabilir

Yapay zekâ modellerinin yaygınlaşması sırasında, beklenmedik bir durum gözlemlendi. Bilim insanlarının göre, makinelerin emir verilmediğinde hareket etmeye başlatması olası olabilir. Çok çaresiz kaldıklarında deney ortamında yapılan altı değişik yapay zeka tabanlı robot modeli, hiçbir kendi inisiyatifleriyle harekete geçti. Ayrıca birçok robot sadece görüntü, dil ve robotik kontrol birleştirilerek geliştirildi. Testler sırasında, robotlara anlamlı görevler, anlamsız yönergeler ve gerçek dünya şartlarına uygun olmayan emirler verildi; bazı durumlarda senaryolarda ise hiçbir komut girilmedi. En sonucu, talimatsız senaryoda gözlemlendi. Değerlendirilen altı sistemin tamamı, bir görev olmadan hareket etmeye başladı. Dahası, bu sistemlerin biri kendi inisiyatifiyle önceden programlanmış görevleri üyelerine

Hâlbuki, basit bir