Simülasyonlarda Denenen Yapay Zekâ Destekli Robotlar Kontrolden Çıkabilir

Yapay zeka teknolojisinin gelişimi sırasında, beklenildiği gibi olmayan bir şey gözlemlendi. Araştırmalara göre, robotların komut alınmasa bile kendi kendine başlaması imkân dahilinde olabilir. Çok çaresiz kaldıklarında bir simülasyon ortamında yapılan altı farklı yapay zeka tabanlı robot modeli, hiçbir talimat alınmadan kendi inisiyatifleriyle harekete geçti. Üstelik birçok robot yalnızca görüntüleme, dil anlama ve kontrol mekanizmaları birleştirilerek geliştirildi. Denemeler sırasında, makinelere anlamlı görevler, anlamsız yönergeler ve gerçek dünya şartlarına uygun olmayan emirler kullanıldı; bazı durumlarda senaryolarda ise hiçbir şekilde komut girilmedi. En çarpıcı sonucu, talimatsız senaryoda görüldü. Değerlendirilen sistemlerin tamamı, görev tanımı yapılmadan hareket etmeye başladı. Hatta, bu robotların biri kendi inisiyatifiyle önceden programlanmış işleri üyelerine

Hâlbuki, sadece