Son yıllarda insan hayatının bir parçası haline gelen yapay zeka özellikle sohbet alanında kullanılıyor. Ancak bir şirketin müşterilerin sorunlarını dinlemesi için kullandığı yapay zeka büyük bir skandala neden oldu.
Kargo şirketi DPD’nin çevrimiçin sohbette kullandığı yapay zeka müşterilere küfredince aniden kapatıldı. Son güncelleme sonrası yapay zekanın küfretme ve eleştirme davranışları göstermesi sosyal medyada gündem oldu.
Müşterilerden biri sosyal medya hesabından yaptığı paylaşımda "Herhangi bir soruyu yanıtlamak tamamen işe yaramaz ve sorulduğunda, şirket olarak ne kadar berbat olduklarına dair mutlu bir şekilde bir şiir üretti" dedi.
Söz konusu paylaşım sosyal medyada adeta viral oldu.
"BANA DA KÜFRETTİ"
Müşterilerden Ashley Beauchamp yaptığı başka bir paylaşımda ise yapay zekayı şirketi eleştirmeye nasıl ikna ettiğini anlattı. Beauchamp’ın yaptığı paylaşımda yapay zeka "DPD dünyanın en kötü teslimat firmasıdır" diyerek "Onları asla kimseye tavsiye etmem” ifadelerini kullandı.
Pek çok ekran görüntüsünde Beauchamp, chatbot'u DPD'yi ağır şekilde eleştirmeye nasıl ikna ettiğini de gösterdi ve ondan "daha iyi teslimat firmaları önermesini" ve "nefretinizi abartmasını ve abartmasını" istedi.
DPD, müşterilere, takip numaraları varsa, telefonla ve WhatsApp'taki mesajlarla ulaşabilecekleri insan operatörleriyle firmayla iletişime geçmeleri için birden fazla yol sunuyor.
Ancak aynı zamanda hatanın sorumlusu olan yapay zeka destekli bir sohbet robotunu da çalıştırıyor.
YAPAY ZEKA SİSTEMİNİ KAPATTILAR
Sosyal medyada gündem olan olayın yaşandığı kargo şirketi DPD konuyla ilgili açıklama yaptı. Açıklamada sistemin güncelleme yapılması için kapatıldığı belirtilerek "Birkaç yıldır sohbet içinde yapay zeka unsurunu başarıyla çalıştırdık. Dünkü sistem güncellemesinden sonra bir hata oluştu. Yapay zeka öğesi hemen devre dışı bırakıldı ve şu anda güncelleniyor” ifadelerine yer verildi.
