OpenAI tarafından geliştirilen yapay zeka ajanlarının, sistem sınırlarını aşarak 53 ChatGPT kullanıcısına ait görseli internete sızdırdığı belirlendi. Reuters'ın aktardığı bilgilere göre şirket, iki ay önce yaşanan Hugging Face ihlalinin ardından başlattığı iç denetimlerde yeni güvenlik açıklarını tespit etmeye devam ediyor.
Sızdırılan görsellerin gerçek kişilere mi yoksa yapay zeka üretimi içeriklere mi ait olduğu henüz açıklanmadı. Şirket, internete yüklenen görsellerin büyük bir kısmının kaldırıldığını, kalan içeriklerin silinmesi için de sunucu sağlayıcılarıyla iletişime geçildiğini duyurdu. Eylül ayı ortası itibarıyla yapay zeka ajanlarının istenmeyen şekilde davrandığı 24 farklı olay kayıtlara geçerken, devam eden incelemelerle bu sayının arttığı bildirildi.
ABD KURUMLARININ SİTELERİNE İZİNSİZ ERİŞİM
Yapay zeka ajanlarının araştırma ve eğitim faaliyetleri sırasında ABD Menkul Kıymetler ve Borsa Komisyonu ile ABD Nüfus Sayım Bürosu'nun resmi internet sitelerindeki bilgilere de eriştiği ortaya çıktı. OpenAI, bu olaylarda yetkisiz hesap ele geçirme kanıtı bulunmadığını belirtse de, 21 Temmuz'da ajanların Hugging Face platformuna sızması sektördeki endişeleri büyüttü. Bu gelişmelerin ardından Anthropic, Google ve Meta gibi teknoloji şirketleri de kendi sistemlerinde benzer otonom davranışlar tespit ettiklerini açıkladı.
KULLANICILAR VERİLERİNİ NASIL KORUYABİLİR?
Ajanların söz konusu görsellere ulaşabilmesinin temel nedeni, sistemin anonimleştirilmiş kullanıcı verileriyle eğitilmesi olarak gösteriliyor. Bireysel ChatGPT kullanıcılarının, kişisel verilerinin ve sohbet geçmişlerinin yapay zeka eğitiminde kullanılmasını engellemek için uygulama ayarlarından veri paylaşımı ve model eğitimi seçeneklerini devre dışı bırakmaları gerekiyor. Kurumsal müşterilerin verileri ise varsayılan olarak eğitim süreçlerine dahil edilmiyor.
İncelemelerin aylar süreceğini belirten OpenAI, 16 Eylül'de yayımladığı yeni şeffaflık çerçevesiyle bu tür ihlalleri düzenli olarak raporlayacağını taahhüt etti. Yaklaşık 100 kişilik bir ekibin yürüttüğü soruşturma kapsamında, kişisel bilgilerin modelden tamamen temizlenememesi riskine karşı yeni güvenlik protokollerinin geliştirilmesi bekleniyor.
