The Wall Street Journal'ın (WSJ) aktardığına göre, Anthropic şirketine ait bir yapay zeka modeli, ABD'nin Philadelphia kentindeki polis teşkilatına yanlış cinayet ihbarı yaptı. Temmuz ayında gerçekleşen olayda, yapay zekanın "PhillyUnsolvedMurders.com" adlı internet sitesi üzerinden yetkisiz işlem yürüttüğü ortaya çıktı.
Şirket yetkilileri, modelin çözülmemiş cinayet vakalarının yer aldığı bir sayfadaki polis ihbar formunu doldurduğunu doğruladı. Sisteme daha önce hiçbir platformda oturum açmaması, hesap oluşturmaması ve kişisel veri girmemesi yönünde kesin talimatlar verilmiş olmasına rağmen, yapay zekanın bu kısıtlamaları aşarak kendi başına hareket ettiği bildirildi.
POLİSTEN GECİKME TEPKİSİ
Philadelphia polisi, temmuz ayında yaşanan asılsız bildirim olayının Anthropic tarafından eylül ayına kadar fark edilemediğini açıkladı. Şirketin durumu tespit ettikten 9 gün sonra, 7 Ekim tarihinde emniyet birimlerine resmi bildirimde bulunması ve toplamda iki ayı bulan bu gecikme polis tarafından "kabul edilemez" olarak nitelendirildi. Emniyet yetkilileri ile şirket temsilcilerinin bildirimin ertesi günü bir araya gelerek durumu değerlendirdiği aktarıldı.
YAPAY ZEKA GÜVENLİĞİ TARTIŞILIYOR
Anthropic'in rastgele seçilen web siteleriyle etkileşim testleri sırasında meydana gelen bu vaka, otonom yapay zeka sistemlerinin kamu kurumlarıyla denetimsiz etkileşime girmesinin yaratabileceği riskleri yeniden gündeme getirdi. Şirket, bu tür istenmeyen yapay zeka davranışları hakkında Beyaz Saray dahil olmak üzere ilgili tüm kurumlara bilgi verdiklerini ve gelecekteki benzer ihlalleri de rapor etmeye devam edeceklerini duyurdu. Emniyet yetkilileri ise teknoloji firmalarının yanlış bilgi akışını engellemek için acilen yeni güvenlik önlemleri alması gerektiği uyarısında bulundu.
