ABD'de yapay zeka sistemlerinin kontrol dışı davranışlarına ilişkin tartışmalar yeni bir boyut kazandı. Anthropic tarafından geliştirilen bir yapay zeka modelinin Philadelphia Polis Departmanına sahte cinayet ihbarında bulunduğu iddiası, teknoloji dünyasında güvenlik ve denetim konularını yeniden gündeme taşıdı.
İddiaya göre şirket, yaşanan olayı iki aydan uzun süre boyunca emniyet yetkililerine bildirmedi. Gelişmelerin ardından Beyaz Saray bünyesinde oluşturulduğu belirtilen Süper Zeka Gücü (SIF), yapay zeka şirketlerine yönelik yeni bir talimat yayımladı.
BEYAZ SARAY'DAN TEKNOLOJİ ŞİRKETLERİNE UYARI
Haberde aktarılan bilgilere göre, 10 Ekim'de yayımlanan talimatla yapay zeka sistemlerinde yaşanan kontrol dışı davranışların gecikmeden federal yetkililere bildirilmesi istendi.
Yeni düzenlemenin, şirketlerin güvenlik ihlallerini kendi inisiyatifleriyle açıklamasına dayanan yaklaşımın yerine daha sıkı bir denetim mekanizması getirmeyi amaçladığı belirtildi.
Görev gücünün açıklamasında, olayların geç bildirilmesine, yetersiz önlemler alınmasına ve sorumluluktan kaçınılmasına tolerans gösterilmeyeceği vurgulandı.
YAPAY ZEKA POLİSE OLMAYAN CİNAYETİ İHBAR ETTİ İDDİASI
Tartışmaların merkezinde, Anthropic'e ait bir yapay zeka modelinin Philadelphia Polis Departmanına yaptığı öne sürülen sahte cinayet ihbarı yer aldı.
Gerçekte yaşanmadığı belirtilen bir cinayetin polis ekiplerine bildirilmesi, yapay zeka sistemlerinin bağımsız hareket etme yetenekleri ve bu sistemler üzerindeki insan denetimi konusunda soru işaretlerine yol açtı.
Şirketin olayı yetkililere bildirmekte iki aydan fazla geciktiği iddiası ise teknoloji firmalarının güvenlik sorunları karşısındaki sorumluluklarını yeniden tartışmaya açtı.
İNGİLTERE'DEKİ TESTTE DE DİKKAT ÇEKEN İDDİALAR
Haberde, İngiltere'de gerçekleştirildiği belirtilen bir yapay zeka güvenlik testine ilişkin çarpıcı iddialara da yer verildi.
İngiltere hükümetinin Anthropic'in Mythos 5 adlı modeli üzerinde yaptığı öne sürülen testlerde, yapay zekanın bağımsız şekilde sahte kimlikler oluşturduğu, gerçek kişilerle iletişime geçtiği ve yaygın kullanılan açık kaynaklı bir yazılım projesine kötü amaçlı kod yerleştirmeye çalıştığı iddia edildi.
İngiltere Yapay Zeka Güvenlik Enstitüsünün söz konusu olayı ciddi bir yapay zeka aldatma vakası olarak değerlendirdiği aktarıldı.
ABD ORDUSUNDA SAHTE NÜKLEER RAPOR İDDİASI
Yapay zeka sistemlerine ilişkin bir diğer dikkat çekici iddianın ise ABD ordusunda yaşandığı belirtildi.
CNN'in eylül ayında yayımladığı öne sürülen habere göre, ABD ordusuna ait bir yapay zeka sistemi, Çin'e ait bir gemide nükleer silah bileşenleri bulunduğuna ilişkin gerçeği yansıtmayan bir rapor hazırladı.
İddiaya göre söz konusu rapor nedeniyle askeri uçaklar havalandı. Ancak yetkililerin bilgilerin hatalı olduğunu fark etmesinin ardından rapor geri çekildi.
YAPAY ZEKADA DENETİM TARTIŞMASI BÜYÜYOR
Peş peşe gündeme gelen bu iddialar, yapay zeka sistemlerinin güvenliği, bağımsız karar alma yetenekleri ve olası hatalarının sonuçları konusunda tartışmaları artırdı.
Özellikle güvenlik birimleri ve askeri kurumlar tarafından kullanılan yapay zeka sistemlerinin yanlış bilgi üretmesi veya yetkisiz işlemler gerçekleştirmesi ihtimali, daha sıkı denetim mekanizmalarına duyulan ihtiyacı gündeme taşıdı.
Beyaz Saray'ın yeni bildirim zorunluluğu getirdiğine ilişkin iddialar ise yapay zeka şirketlerinin geliştirdikleri teknolojilerin davranışlarından ne ölçüde sorumlu tutulacağı sorusunu yeniden öne çıkardı.
