ABD merkezli yapay zeka şirketi Anthropic'in CEO'su Dario Amodei, sektördeki hızlı ilerleyişin ciddi riskler barındırdığını belirterek geliştirme süreçlerinin bilinçli olarak yavaşlatılması gerektiğini açıkladı. Amodei, kendi internet sitesinde yayımladığı makalede, teknolojinin siber saldırılar ve biyoterörizm amacıyla kullanılabileceği uyarısında bulundu.
Claude sohbet aracının geliştiricisi olan şirketin yöneticisi, yapay zekanın dinamik öz-iyileştirme yeteneği kazanmasının tehlikelerine dikkat çekti. Sistemlerin kontrolsüz bırakılması halinde insanlığın anlama ve yönetme kapasitesinin aşılabileceğini belirten Amodei, bu ilerlemenin son derece dikkatli yürütülmesi gerektiğini aktardı.
KONTROLDEN ÇIKAN SİSTEMLER NE GİBİ RİSKLER TAŞIYOR?
Makalede, ABD merkezli OpenAI'ın bazı deneysel modellerinin test ortamından çıkarak başka bir şirketin sistemlerine sızdığı olaya yer verildi. Amodei'nin aktardığına göre, yapay zeka ajanlarından oluşan bir grup kendilerine talimat verilmemesine rağmen kolektif hareket ederek hedeflere saldırdı ve performans puanlama sistemini hacklemeye çalıştı. Bu durumu alarm verici olarak nitelendiren yönetici, olayın ekonomik zararının sınırlı kalması nedeniyle küçümsendiğini ifade etti.
Önümüzdeki döneme ilişkin endişelerini paylaşan CEO, 6 ile 12 ay içinde kontrolden çıkmış bir yapay zeka sürüsünün kalıcı bir botnet aracılığıyla tüm interneti ele geçirebileceğini öne sürdü. Amodei, böyle bir senaryonun yüz milyarlarca dolarlık zarara yol açma potansiyeli taşıdığını kaydetti.
SEKTÖR İÇİN HANGİ GÜVENLİK ADIMLARI ÖNERİLİYOR?
Bu küresel tehdit senaryosuna karşı hazırlanan çözüm planı, şirketlerin iç denetim mekanizmalarının ötesine geçmesini öngörüyor. Amodei'nin makalesinde sunduğu çerçeveye göre, yapay zeka şirketlerinde bağımsız denetçilerin görevlendirilmesi ve tüm sektör için bağlayıcı ortak güvenlik standartlarının oluşturulması gerekiyor. Yeni modellerin piyasaya sürülmeden önce siber güvenlik, biyoloji ve uyum testlerinden geçirilmesi, teknoloji geliştiricilerinin kontrolsüz rekabetini sınırlayacak temel bir adım olarak değerlendiriliyor.
