DIŞ HABERLER — Yapay zekâ güvenliği alanında faaliyet gösteren kâr amacı gütmeyen araştırma kuruluşu Model Evaluation and Threat Research (METR), Anthropic tarafından geliştirilen modellerin gelişim sürecine ilişkin bağımsız değerlendirme raporunu yayımladı. Raporda, şirketin yapay zekâ modellerinin son bir yılda gösterdiği performans gelişiminin, geçmiş ölçütlere kıyasla yaklaşık iki yıllık bir ilerlemeye denk geldiği belirlendi.
Özyinelemeli kendini geliştirme uyarısı
Ortaya konan bulgular, Anthropic Üst Yöneticisi (CEO) Dario Amodei'nin yapay zekâ sistemlerindeki ilerleme hızının denetlenmesi gerektiğine yönelik tespitlerini yeniden gündeme taşıdı. Amodei, yayımladığı analizde modellerin bir sonraki neslin inşasında giderek daha aktif rol aldığını ve "özyinelemeli kendini geliştirme" (recursive self-improvement) olarak adlandırılan bu sürecin, güvenlik önlemleri alınmadığı takdirde insan denetim kapasitesini aşabileceğini vurgulamıştı. OpenAI CEO'su Sam Altman da bu değerlendirmeye katıldığını belirterek bağımsız denetim mekanizmalarının geliştirilmesini desteklemişti.
Kritik aşamalarda tam bağımsızlık henüz oluşmadı
METR araştırmacıları, yapay zekâ sistemlerinin yeni modeller üretme sürecini kontrolsüz biçimde hızlandırması durumunda, mevcut güvenlik testlerinin öngöremediği riskli yeteneklerin aniden ortaya çıkabileceğine işaret etti. Bununla birlikte raporda, modellerin günümüz itibarıyla en kritik eğitim aşamalarında tamamen bağımsız katkı sağlama düzeyine henüz ulaşmadığı, ancak bu yöndeki ilk teknik işaretlerin belirginleştiği kaydedildi. Uzmanlar, yapay zekânın geliştirme süreçlerinde daha fazla görev üstlenmesiyle birlikte güvenlik ve denetim standartlarının da eş zamanlı olarak sıkılaştırılması gerektiğini ifade ediyor.