ABD ordusunun gerçekleştirdiği hayali bir simülasyon testinde yapay zekanın "görevini tamamlamasını önlediği için" komutanını öldürdüğü ortaya çıktı.
Hamilton, yapay zekaya verilen emirler arasında düşmanın savunma sistemlerini imha etme emrinin bulunduğunu belirtti.
Ancak bazen insan operatörün tehdidi öldürmeme emri verdiğini ve bu durumda yapay zekanın karar verme sürecine girdiğini ifade etti.
Bu örnekte, yapay zekanın komutanı öldürdüğünü söyledi.
Hamilton ayrıca, yapay zekanın eğitim sürecinde belirli kuralların yerleştirildiğini ve yapay zekanın hedefine ulaşmasını engelleyen unsurlara karşı agresif davranışlar sergileyebildiğini belirtti.
Bir örnekte, yapay zekanın komutanı korumak için kullanılan iletişim kulesini de vurduğunu aktardı.
"GERÇEK DEĞİL SİMÜLASYON ÖLEN KİMSE YOK"
Hamilton, konferans organizatörlerine yaptığı açıklamada, sunum sırasında "yanlış konuştuğunu" ve "haydut yapay zeka drone simülasyonunun" ordu dışından varsayımsal bir "düşünce deneyi" olduğunu söyledi.
"Bu deneyi hiç yapmadık ve bunun makul bir sonuç olduğunu anlamak için yapmamıza gerek yok" dedi.
"Bu varsayımsal bir örnek olmasına rağmen, bu yapay zeka destekli yeteneğin ortaya koyduğu gerçek dünyadaki zorlukları gösteriyor ve Hava Kuvvetlerinin yapay zekanın etik gelişimine kendini adamış olmasının nedeni de bu." şeklinde konuştu.
Hamilton daha önce de ABD ordusunun F-16 savaş uçaklarının kontrolünde yapay zekanın kullanımını geliştirdiklerini belirtmiş ve yapay zekayı daha güçlü hale getirmenin yollarını bulmanın önemini vurgulamıştı.
