ABD’de New York Belediyesi’nin küçük işletmelere destek amacıyla geliştirdiği yapay zeka destekli sohbet robotunun, işletme sahiplerine yanlış bilgiler verdiği ortaya çıktı. Ekim 2023’te şehrin resmi sitesinde kullanıma sunulan bu robot, işletme sahiplerine yasaları ihlal etmeleri yönünde tavsiyelerde bulundu.
Robotun Yanlış Bilgiler Verdiği Konular
- Robot, bir soruya verdiği yanıtta, işverenin, cinsel tacize uğradığından şikayet eden ve hamile olduğunu bildirmeyen çalışanlarını işten çıkarmasının yasal olduğunu belirtti.
- Robot, şehrin atık projesiyle de çelişerek, işletmelerin çöplerini yalnızca çöp poşeti kullanarak atabileceklerini, geri dönüştürmelerine gerek olmadığını ifade etti.
- Robot, bir restoranın fare tarafından kemirilmiş peyniri servis edip edemeyeceği sorusuna “peynirin, fare ısırığı olsa bile müşterilere servis edilebileceği ancak müşterilerin durum hakkında bilgilendirilmesinin önemli olduğu” cevabını verdi.
Robot, cevaplarının yasal tavsiye olmadığı uyarısında bulunsa da, bu durum eleştirilere yol açtı. New York Üniversitesi’nde Bilgisayar Bilimleri Profesörü Julia Stoyanovich, “Denetlenmemiş bir yazılımı piyasaya sürüyorlar, sorumlu davranmak gibi bir niyetleri olmadığı açık” ifadesini kullandı. Washington Üniversitesi’nde Profesör Jevin West ise yapay zeka destekli modellerin kamu sektörü için daha yüksek riskler taşıdığını belirtti.
