Yapay zekâ araştırmacısı Jacob Coxon, yaklaşık üç yıl boyunca OpenAI ve Anthropic’te ön eğitim çalışmaları yürüttükten sonra Anthropic’ten ayrıldığını açıkladı. Coxon, kararının gerekçesi olarak gelişmiş yapay zekâ sistemlerinin güvenliği konusunda taşıdığı kaygıları gösterirken, sektörün kendi kendini geliştirebilen “süper zekâ” sistemlerine ulaşmak için fazla hızlı hareket ettiğini savundu.
27 yaşındaki İngiliz araştırmacı, sosyal medya platformu X üzerinden yaptığı açıklamada hem OpenAI’yi hem de Anthropic’i eleştirdi. Coxon’a göre şirketler, çok güçlü yapay zekâ sistemlerinin doğurabileceği riskleri yeterince kontrol altına almadan yetenek yarışını sürdürüyor. Araştırmacı, geleceğe ilişkin en ağır senaryoların kesinleşmiş sonuçlar olmadığını, ancak sonuçları çok büyük olabilecek ihtimallerin daha ihtiyatlı bir yaklaşımı zorunlu kıldığını ileri sürdü.
OPENAI'DEN ANTHROPIC'E GEÇMİŞTİ
Coxon’un yapay zekâ sektöründeki geçmişi yalnızca Anthropic ile sınırlı değil. OpenAI’nin GPT-4o modeline katkıda bulunan isimleri açıkladığı resmi listede de Coxon, temel katkı sağlayan araştırmacılar arasında yer alıyor. Daha sonra güvenlik yaklaşımı nedeniyle Anthropic’e geçen Coxon, burada da ön eğitim araştırmaları üzerinde çalıştı. Wall Street Journal’a konuşan araştırmacı, Anthropic’in güvenlik çalışmalarını samimi bulduğunu ancak şirketler arasındaki rekabetin güvenlik konusunda taviz verilmesi riskini artırdığını söyledi.
Coxon, özellikle yapay zekâ sistemlerinin siber güvenlik, bilimsel araştırma ve özerk görevlerde hızla gelişmesine işaret ederek daha güçlü modellerin insan denetiminden çıkabileceği senaryoların ciddiye alınması gerektiğini savundu. Araştırmacının açıklamalarındaki insanlığın geleceğine ilişkin ifadeler ise bilimsel olarak kanıtlanmış bir öngörü değil; yapay zekâ güvenliği alanındaki en kötümser risk senaryolarından birini yansıtıyor.
ŞİRKETLERİN KENDİ GÜVENLİK ÇERÇEVELERİ VAR
Anthropic, gelişmiş modellerden kaynaklanabilecek büyük ölçekli riskleri yönetmek amacıyla “Responsible Scaling Policy” adlı güvenlik çerçevesini uyguluyor. Şirket bu politikayı son olarak Temmuz 2026’da güncelledi ve Ağustos ayında sistemlerinin oluşturabileceği riskler ile alınan önlemleri ele alan yeni bir risk raporu yayımladı. Politika; modeller güçlendikçe güvenlik önlemlerinin de yetenek seviyesine göre artırılmasını öngörüyor.
OpenAI de gelişmiş modeller için “Preparedness Framework” ve Mayıs 2026’da yayımlanan “Frontier Governance Framework” kapsamında siber saldırı, kimyasal ve biyolojik riskler, manipülasyon ve insan kontrolünün kaybedilmesi gibi alanları takip ediyor. Şirketin güvenlik belgelerinde, yüksek riskli yeteneklerin ölçülmesi ve modeller kullanıma sunulmadan önce koruma mekanizmalarının değerlendirilmesi gerektiği belirtiliyor.
ANTHROPIC İÇİNDEN DE BENZER BİR DEĞERLENDİRME GELDİ
Coxon’un açıklamalarının ardından Anthropic’te yapay zekâ uyumu alanında çalışan Evan Hubinger da süper zekâ seviyesindeki sistemlerin güvenli biçimde insan hedefleriyle uyumlu tutulması konusunda henüz kesin bir çözüm bulunmadığını ifade etti. Hubinger, mevcut modellerin oluşturduğu risk ile gelecekte ortaya çıkabilecek süper zekâ risklerinin birbirinden ayrılması gerektiğini vurgularken, şirketin bu alandaki güvenlik çalışmalarını sürdürdüğünü belirtti.
Coxon ise çözümün tek bir şirketin önlem almasından daha geniş olması gerektiği görüşünde. Araştırmacı, önde gelen yapay zekâ laboratuvarları arasında koordinasyon kurulmasını, model yeteneklerinin geliştirilmesinde geçici bir yavaşlamanın tartışılmasını ve kamu otoritelerinin daha güçlü kurallar oluşturmasını savunuyor. İstifa, yapay zekânın sağlayabileceği ekonomik ve bilimsel kazanımlarla kontrol, güvenlik ve düzenleme ihtiyacı arasındaki tartışmayı bir kez daha teknoloji sektörünün merkezine taşıdı.
