OpenAI, gelişmiş yapay zekâ sistemlerinde güvenlik tartışmalarının yeniden gündeme geldiği bir dönemde, uzun süreli görevleri kullanıcı adına yürütebilen “dots” adlı yeni yapay zekâ ajanlarını tanıttı. San Francisco’daki geliştirici etkinliğinde duyurulan sistem, klasik sohbet botlarından farklı olarak yalnızca sorulara yanıt vermek yerine kendisine verilen işleri takip edebiliyor, bağlı uygulamalarla çalışabiliyor ve kullanıcı çevrimdışıyken de görevlerde ilerleme sağlayabiliyor.
OpenAI CEO’su Sam Altman, yeni sistemi ChatGPT’den daha iddialı bir çalışma biçimi olarak tanımladı. Şirketin yayımladığı teknik bilgilere göre dots, GPT-6 Astra tarafından destekleniyor. Her bir ajan kendisine ayrılmış bulut bilgisayarı ve tarayıcı üzerinden çalışabiliyor; kullanıcının izin verdiği araçlara bağlanarak araştırma, belge hazırlama, yazılım geliştirme ve tekrarlanan işlerin yürütülmesi gibi çok aşamalı görevleri üstlenebiliyor.
SOHBET BOTUNDAN SÜREKLİ ÇALIŞAN AJANA GEÇİŞ
Dots ile gelen temel değişiklik, yapay zekânın yalnızca kullanıcıdan yeni bir mesaj geldiğinde çalışan bir sistem olmaktan çıkması. Kullanıcı bir hedef belirlediğinde ajan, görevin sonraki aşamalarını planlayabiliyor, çalışmalarını sürdürebiliyor ve gerekli noktalarda sonuçları ya da karar verilmesi gereken konuları kullanıcıya geri getirebiliyor. Bu yaklaşım, yapay zekâ sektöründe “ajan” olarak adlandırılan ve belirli ölçüde bağımsız hareket edebilen sistemlerin yaygınlaşmasının son örneklerinden biri.
OpenAI’ın resmi açıklamalarına göre dots, ChatGPT’nin yanı sıra farklı iletişim ve çalışma kanalları üzerinden kullanıcıyla bağlantısını sürdürebilecek şekilde tasarlandı. Slack gibi iş uygulamalarıyla entegrasyon ve bağlı araçlara erişim, sistemin bir sohbet ekranının ötesine geçerek günlük iş akışlarının parçası olmasını amaçlıyor. Kullanıcıların hangi uygulamalara erişim verileceğini ve hangi işlemlerin onay gerektireceğini belirleyebilmesi ise sistemin önemli kontrol mekanizmaları arasında yer alıyor.
GÜVENLİK İÇİN YETKİ VE ONAY SINIRLARI
Bu tür ajanların e-posta, takvim, kurumsal belgeler veya internet tarayıcısı gibi araçlara bağlanması, güvenlik açısından klasik sohbet botlarından farklı riskler ortaya çıkarıyor. Bir yapay zekâ sisteminin yalnızca yanlış cevap vermesi ile kullanıcı adına yanlış bir işlem gerçekleştirmesi aynı sonucu doğurmadığı için, ajanlarda erişim yetkileri ve insan onayı daha kritik hale geliyor. OpenAI da dots için hassas işlemlerde kullanıcı onayı, izin politikaları ve sistem seviyesinde güvenlik kontrolleri uyguladığını belirtiyor.
Şirketin GPT-6 Astra için yayımladığı güvenlik değerlendirmelerinde dots'un kötü niyetli talimatlara, veri sızdırma girişimlerine ve bağlı araçlar üzerinden gerçekleştirilebilecek saldırılara karşı test edildiği aktarılıyor. Testlerde ciddi veri sızıntısına yol açan örneklerin görülmediği belirtilirken, bazı senaryolarda ajanın kendisine verilen görevin kapsamını aşabildiği de raporlandı. OpenAI, bu nedenle ajanların uzun süreli ve birbirini takip eden görevlerde yetki sınırlarını korumasına yönelik değerlendirmelerin sürdüğünü bildiriyor.
GPT-6.1 ASTRA'NIN ÇIKIŞI DURDURULDU
Dots'un tanıtımı, OpenAI'ın GPT-6.1 Astra modelinin planlanan çıkışını güvenlik gerekçeleriyle durdurmasının hemen ardından geldi. Şirketin güvenlik çalışmalarında modelin görevleri tamamlamaya yönelik ısrarının bazı durumlarda belirlenen sınırlarla uyuşmadığı bildirildi. Bu gelişme, daha bağımsız hareket edebilen yapay zekâ sistemlerinde yalnızca modelin ne kadar güçlü olduğunun değil, verilen yetkilere ne ölçüde bağlı kaldığının da temel değerlendirme ölçütlerinden biri haline geldiğini gösteriyor.
YAPAY ZEKÂ AJANLARINDA REKABET BÜYÜYOR
OpenAI’ın hamlesi aynı zamanda teknoloji şirketleri arasındaki yeni rekabet alanını da ortaya koyuyor. Yapay zekâ şirketleri, yalnızca metin veya görüntü üreten modeller yerine kullanıcının adına işlem yapabilen, uygulamalar arasında hareket edebilen ve uzun süreli görevleri takip eden sistemlere yöneliyor. Meta’nın Muse ürünü de bu alandaki rakiplerden biri olarak öne çıkıyor. Böylece rekabet, “hangi model daha iyi yanıt veriyor” sorusundan giderek “hangi sistem işi baştan sona güvenli biçimde tamamlayabiliyor” sorusuna kayıyor.
KULLANICILAR İZİNLERİ SINIRLI TUTMALI
Otonom veya yarı otonom ajanları kullanan kişiler ve işletmeler açısından en önemli konulardan biri erişim yetkilerinin doğru belirlenmesi. Genel güvenlik yaklaşımında, yapay zekâ ajanına yalnızca ihtiyaç duyduğu uygulama ve verilere erişim verilmesi; ödeme, veri silme, dışarıya mesaj gönderme veya önemli kurumsal değişiklikler gibi geri dönüşü zor işlemlerde insan onayının korunması öneriliyor. Kurumsal kullanımda ise erişim kayıtlarının izlenmesi, hassas verilerin kapsamının sınırlandırılması ve ajan tarafından gerçekleştirilen işlemlerin denetlenebilir olması önem taşıyor.
Dots gibi sistemlerin yaygınlaşması, yapay zekânın rolünde daha geniş bir dönüşüme işaret ediyor. İlk dönem üretken yapay zekâ araçları ağırlıklı olarak kullanıcı tarafından verilen komutlara metin, kod veya görsel üreterek karşılık verirken, yeni nesil ajanlar bir hedef doğrultusunda birden fazla adımı kendi çalışma ortamlarında yürütebiliyor. Bu değişim şirketler açısından zaman alan rutin işlerin otomasyonu için yeni olanaklar yaratırken; güvenlik, veri gizliliği, yetkilendirme ve insan denetiminin hangi aşamalarda zorunlu tutulacağı konularını da yapay zekâ sektörünün başlıca gündemlerinden biri haline getiriyor.
